[AutoEncoder][オートエンコーダー]

潜在意味解析: [Latent Semantic Analysis], [LSA]潜在的意味索引または潜在意味インデックス: [Latent Semantic Indexing], [LSI]各行が各単語、各列が各文書の疎行列各成分の重み付けに [tf-idf] を使うこの行列を[特異値分解]する

Skip-Gramは要するに[AutoEncoder]の入力が同じ単語ではなく周囲の単語になったもの単語[1-of-Kベクトル]を入力とする場合は同一の単語を入力にしてもあんまり[次元圧縮]のしようがないからね仮に無理やりやったらどうなるだろう。出現頻度の高い順に選んだ中間層になるかな。