word2vec
Google, 2013
「word2vev」自体は、プログラムやツール類を指す
word2vecでは以下の2つのNN modelのいずれかを使用する
CBOW
周辺単語を入力として中心単語を予測
Skip-Gram Model
中心単語を入力として周辺単語を予測。
GPT-4.icon
特徴
計算効率が高い。
語彙間の意味的関係（類似性やアナロジー）を捉える。
ベクトル空間上の性質：
例: $ \text{vec}("king") - \text{vec}("man") + \text{vec}("woman") \approx \text{vec}("queen")