seq2seq
sequence to sequence
Encoder-Decoder model
入力シーケンスを別のシーケンスに変換するための
Neural Network
モデル
機械翻訳、文章要約、質問応答などの自然言語処理で広く使われる
基本構造
Encoder
入力シーケンスを固定調のベクトルに変換
通常
RNN
が使われる
Decoder
エンコーダーからのコンテクストベクトルを受け取り、出力する
こちらも
RNN
が使われる
Attention Mechanisms
によってシーケンスの特定の部分にフォーカスすることができ、大幅に性能向上できることが知られている