計算言語学
from
集合的予測符号化に基づく言語と認知のダイナミクス:記号創発ロボティクスの新展開に向けて
計算言語学
大規模言語モデルが計算言語学の状況を一変させている (Brown et al., 2020)
現在,何故,単語列の予測符号化だけで学習する大規模言語モデルがこれほどまでに多くの現実世界に関わる知識を持てるのか,が問われている.
しかし
集合的予測符号化の視点
そもそも言語とは我々人間集団の身体を用いながら,世界の情報をうまく表現できるように形成されたもの
「
形成された外的表象としての記述の分布をモデル化することは,世界に関する知識を効率的に学習することになる
」という解釈がありえる.
記号創発の議論と現在の人間の社会が持つ言語の接合を考える上でも
大規模言語モデルの議論と記号創発システムのモデルの接続が重要