3f81f071b8d0009

http://nhiro.org.s3.amazonaws.com/4/1/41ec5ec66ef4a172448fdff900147eff.jpg https://gyazo.com/41ec5ec66ef4a172448fdff900147eff

(OCR text)

PV-DM

予測問題を解かせることで分散表現を作る

このコンセプトはCBOWと同じ

だけどsumやaverageではなくconcatenateな

ので、語順の情報が保たれている

IntroでBoWは語順が

失われると批判してる

図ではaverageも含めてるが、実験結果は

concatのものだけ

14年6月6日金曜日