集合的予測符号化に基づく言語と認知のダイナミクス：記号創発ロボティクスの新展開に向けて

public.icon

逆の言い方をすれば言語こそが主体であり、

集合的予測符号化を実現するために人間の認知システムを使役し分散的に協調させているとも表現できる

https://gyazo.com/4e68917a8916b3c2f02b38f9d4120a3a

言語を共時的で静的な存在として見る言語観

動的ではあるが個体の環境適応と切り離して考える言語観

言語を他の認知機能と分離して議論する領域固有的な言語観

↓

言語を人間が集団で環境適応する中で生じる動的かつ通時的な過程として表現する

より具体的には外的表象としての言語の発生を人間集団が集合的かつ分散的に行う表現学習の結果と捉える

記号創発システム

https://gyazo.com/d5fbcbc93af0e253e76f256bd56de437

記号創発システムの二種類のダイナミクス．

記号の恣意性の観点からすれば

身体的相互作用に基づく内的表象形成(認知的ダイナミクス)

言語の影響を受けながらも環境と相互作用し形成するプロセス

ここでは何と何の対象を同一視するか

類似性を見出すかというカテゴリ化や

分節化に関連した知覚的側面に焦点が当たる

2集合的予測符号化

創発的記号システムとミクロ・マクロ・ループ(社会的ダイナミクス)

知覚に基づいた内的表象に基づき

対象を表す表現としての記号や言語を共有していくダイナミクス

これは対象や状況に対したラベルとしてのサインの共有にあたる

言語進化や創発的コミュニケーションの研究でよく扱われてきた問題

身体的相互作用に基づく内的表象形成

人間は自らの感覚運動器を用いた環境との相互作用を通して

様々な対象や運動等の内的表象を学習することができる

記号創発システムにおける内的表象の表現学習はこのダイナミクスに対応

エージェントは自らが活動する環境との身体的相互作用に基づき内的表象を形成する．

この内的表象はあくまでもエージェント内部での認識状態にすぎない

記号論における記号過程の意味での記号ではない (Chandler, 2002)．

本論文で用いる記号という言葉はPeirce 記号論の意味での記号過程（semiosis）もしくはそこにおけるサイン（sign）を意味する

記号論に基づくと記号とはサイン，対象（object），解釈項（interpretant）の三項関係である．

内的表象系は対象に対する類似と差異の関係に対応し，

記号が持つ恣意性のひとつであるカテゴリ化・分節化の作用の根拠となる．

ここでのカテゴリ化・分節化とは？

「一回性を持って生じる連続的で知覚的な刺激をどのようなまとまりとして知覚し，また記号的な意味で同一の事物として認識するか」

またその構成されたオブジェクトを記号的な意味で同一の事物とするか？

この仮定の妥当性を明らかにするには？

人間を被験者とした実験記号論的な研究が必要

大規模言語モデルが計算言語学の状況を一変させている (Brown et al., 2020)

現在，何故，単語列の予測符号化だけで学習する大規模言語モデルがこれほどまでに多くの現実世界に関わる知識を持てるのか，が問われている．

しかし

集合的予測符号化の視点

そもそも言語とは我々人間集団の身体を用いながら，世界の情報をうまく表現できるように形成されたもの

記号創発の議論と現在の人間の社会が持つ言語の接合を考える上でも

大規模言語モデルの議論と記号創発システムのモデルの接続が重要

言語・記号創発への構成論的アプローチ

記号創発の理解に向けて，様々な構成論的アプローチに基づく研究が行われてきた

それらの主要なアプローチは大きく分けて 4 つに大別される．

これらはすべて記号創発システム（図 2）の一部分をモデル化したものであり，全体像を一つの理論枠組みの中で構成論的にモデル化できているものではない．

これを統一しうるのが集合的予測符号化の枠組み

１．創発的コミュニケーション

エージェント間の記号的相互作用から言語を形成するプロセスを対象とした．

あるタスクを解く環境適応のために

エージェント集団の中で記号を形成するプロセスが対象とされた．

３．繰り返し学習モデル

環境適応はほぼ対象とせずに

主に親世代から子世代へと言語が伝達されていくときの言語の構造変化を問題とした

一世代の人々が持つ言語や文化の知識を

次の世代に伝える過程をモデル化するものである

これにより言語や文化が時間とともにどのように変わっていくかを構成論的に研究することができる

他の研究が単一のエージェントの学習能力に焦点が当たっていたのに対して，繰り返し学習モデルは言語や文化を伝承していく社会を俯瞰する視点に立っている

この意味でエージェントの集団の相互作用を通して生じる現象を観察することで構成論的な理解を得る複雑系のシミュレーション研究に近いアプローチ

身体を持ったロボットが身体的相互作用に基づく感覚運動情報から

いかに内的表象系が形成されるか，また言語獲得を行っていくかが問題とされた

感覚運動系（身体性）を持つロボットがいかに世界を分節化（差異化）し，主観的な経験をもとに概念を形成し，言語を獲得するか

集合的予測符号化仮説

https://gyazo.com/fc0f76608f0e516b1f2a7f42cb076f79

予測符号化について

メトロポリス・ヘイスティングス名付けゲーム

https://gyazo.com/74ad0de193c6cca52bd340c1a55f777b

メトロポリス・ヘイスティングス名付けゲームは図 3 (A) に示したグラフィカルモデルの Wｄ に関して

近似ベイズ推論アルゴリズムであるメトロポリス・ヘイスティングス法に厳密一致することが証明できる．

重要なのはこのゲームを実施している間，両エージェントはお互いの内部変数に一切アクセスしていないということである．

つまり記号的相互作用の前提である自己の認知の閉鎖性を維持したままの

モデルとなっている．

それなのに両エージェントの観測を統合するWdのベイズ推論が可能になってい

るのである．

つまりこのモデルは記号創発を通して社会における分散的なベイズ推論として集団の知覚を統合したを統合した表現学習が可能であることを示している

メトロポリス・ヘイスティングス名付けゲームがこの表現学習を「脳を繋ぐ」ことなく分散的に実現可能であることを示している．

つまり二者間において分散的にベイズ推論すること，

つまり集合的に予測符号化することで，記号創発を表現できることが示された．

この考え方を敷衍するのが集合的予測符号化の考え方である．

つまり私たちは社会全体として「他人の頭の中は覗かずに」集合的な予測符号化を行うことによって，記号創発が生じると考える．

しかもそれはある種の条件を満たした言語ゲームをプレイすることで実現すると考える．

このように言語が多数の人間による分散的なベイズ推論により生じるという考え方を，集合的予測符号化と呼ぶ

5.3 集合的予測符号化仮説

「言語／記号とは私たちの感覚運動系を通した世界の経験を集合的予測符号化するために形成されているのではないか？」という仮説

この仮説はいくつかの含意

これは分散的なベイズ推論である．

記号創発において個々のエージェントそれぞれによる自律的なサインの棄却（採択）の意思決定が重要な役割を演じる．

記号システムは多数のエージェントの身体に基づく感覚運動情報に基づいて得られる世界の情報（集合的な環世界の事象）が符号化（encode）されたものである．

言語進化の視点からすれば

「人間の言語はどのような認知機能を基盤として進化したか？」

に対して

集合的予測符号化仮説は新たな説明を環境適応との関係性において提供する

上記が自由エネルギー原理などのより一般的な説明原理と繋がりながら

さらに予測符号化や自由エネルギー原理に対して

「ただ感覚運動系にもとづき環境適応する知能」から

「記号を形成し，文化を形成する知能」に向けた

もう一段階の拡張を要請する

単一エージェ ントにおける予測符号化，自由エネルギー原理，世界モデルといった

既存の議論を集団に対して拡張・ 展開することによって得られているという理論的接続性が重要

1. 予測符号化そのものが環境への適応のプロセスであるという世界モデルの観点。

エージェントが行動情報まで含めて表現学習し、環世界のモデルを形成することが、環境適応の表れ

エージェントが時間発展を考慮し行動情報まで 含んで表現学習し，自らの環世界に関するモデルの形成．

集合的予測符号化は言語／記号創発を通して集合的な世界モデルを構築するという意味で環境適応に関係する

集合的予測符号化は確率的生成モデルとしてマルチエージェント強化学習における集団の環境適応を理論的に含むことができる

マルチエージェント強化学習における一連の研究

集団が得る報酬を最大化し適応価を上げる

モデルベース強化学習の主要な部分

確率的生成モデルとして予測モデル（もしくは世界モデル）を学習した後に行う 「将来の行動系列のベイズ推論」と等価であること が知られている (Levine, 2018)．

これは「確率推論 による制御（control as inference）」と呼ばれる．

↓

集合的予測符号化はこれを集団のエージェントに拡張する

マルチエージェント強化学習の意味での集団の環境適応を理論的に内包することが できる．

6.1 集合的予測符号化のモデル展開

確率的生成モデルの応用:

記号創発ロボティクス

確率的生成モデルを用いてエージェントが感覚情報から内部表象を学習するプロセスをモデル化

これらのモデルは、エージェント間での意味の共有や言語の創発において中心的。

マルチエージェントシステム

複数のエージェントが相互作用するシステムをモデル化する

集団内での記号や言語の創発・進化のダイナミクスを探求。

エージェント間でのコミュニケーションや協調行動が、記号創発の過程にどのように影響を与えるかを解析。

時間発展する演算のモデリング

言語や記号は静的なものではなく、時間とともに進化するダイナミックなシステム。

集合的予測符号化のモデル展開では、時間に依存する言語の進化を捉えるためのアプローチが求められる。

内的表象と外的表象の統合

エージェントの内的表象（感覚情報から形成される概念やカテゴリ）と外的表象（言語や記号）の間の相互作用をモデル化し、これらがどのように相互に影響を与え合いながら進化していくかを探る。

記号創発システムの数理モデルの開発

集合的予測符号化に基づく記号創発プロセスを形式化

数理モデルを通じてそのメカニズムを明らかにする試みが重要

記号創発の理論的な理解を深めると同時に、具体的なシミュレーションや実験を通じてその妥当性を検証。

共創的学習（Co-creative Learning）

共創的学習は、人間とロボットが共に学習プロセスに参加し、相互に影響を及ぼし合いながら新たな記号や概念を創出する学習の形式です。このプロセスでは、人間がエージェントの一体として捉えられ、人間とロボットの観測データを統合して記号創発が行われます。これにより、教師あり学習や教師なし学習とは異なる、新しいタイプの機械学習が実現する可能性がある

人間が与えるラベルを真値（ground truth）とせずに，人工知能と人間が共に集合的予測符号化に貢献するという描像

超えるべき記号システム

人間とロボットの混合システムによる記号の創発は、

人間だけによる記号システムを超えた新たな記号システムの形成を可能にするかも。

これは、人間と人工知能・ロボットの共進化への道を開くことを意味する

人間の知識を単にロボットに教え込むのではなく、人間とロボットが共に知識を創出する