📖From Embodiment to Super-Embodiment: An Approachto Open-Ended and Human Aligned Intelligence/Mind
Abstract
身体性は、現在のAIにおける信頼性とアライメントの問題を解決するための鍵となります。これは、エージェントと環境の相互作用および付随する情報の実際の内容を特定することなく、一貫した制約を課すためであり、その制約は同様の身体性を持つものに共通するものだからです。身体性の概念は、身体の機械的特性や感覚信号の情報構造を超えて、内臓や代謝、精神プロセス、エージェント間の相互作用を包含する「super embodiment」へと一般化されるべきです。これは次世代AIにとって極めて重要となる、人工的な人間性に対する感性、価値観、道徳性に対処することができます。 1. Introduction
GPTなどの大規模言語モデルが人間のような知性を示すにつれ、抜け道のない形で人間の価値観や道徳観と整合させるための基本原則が強く求められており、また身体性や感覚の欠如も重要な課題となってきている。
Sejnowski$ { }^{3} は、汎用人工知能の実現に向けてLLMに欠けている7つの要素を挙げた。
すでに解決済みまたは取り組まれているものを除いた5項目は、
(1)目的を持った自発的な関与、
(2)感覚体験（実世界の）、
(3)身体（生物学的）、
(4)自律学習（不確実な環境で生存するための生物学的原理）、
(5)発達（一般化された知能に向けて経験を積みながら段階的に成熟すること）
である。身体性、感情、感覚、発達、自律性が重要な課題となっている。
2. Embodimentが相互作用のダイナミクスと情報構造を形作る Embodimentは「エージェントの全ての相互作用（環境、他のエージェント、およびエージェント自身との間）に対して直交する、安定的で一貫した制約の集合」として定義される。$ { }^{2}
ここでの「直交」という用語は、これらの制約が相互作用の内容を特定することなくそれらに影響を与えることを意味する。単純な例として、腕を振る際、その姿勢の軌道は無限の変化をとりうるが、常に関節間の距離によって制約されており、これは腕の姿勢を直接的には特定しない。 「一貫した」という用語は、これらの制約が互いに、そして相互作用を支配する物理法則やその他の普遍的な法則と、整合していることを意味する。対象とする相互作用にエージェント間の相互作用や社会的影響を含める場合、これは社会的規範のようなより抽象的な法則にまで一般化できる。 Pfeiferらは、Embodimentの原則の下での環境とエージェントの間の物理的相互作用が、感覚入力に情報構造を課すことについて議論した。$ { }^{4} 我々のEmbodimentの定義は、これらの議論を自然に拡張するものである。
passive dynamic walkersの研究$ { }^{5} では、身体と地面を踏む足の機械的構造が制約を定義し、これが動的な物理的相互作用を構造化して、意味のある歩行パターンを生み出す。新山らの研究では、二関節筋を特徴とする空気圧駆動のカエル型跳躍・着地ロボットが、そのEmbodimentのおかげで、明示的な制御なしに自然な多関節協調運動を生成し、一定レベルの外乱に適応できることを実証した。$ { }^{6} 5. 「Super Embodiment」に向けて：内臓、共感、道徳を包含する一般化されたEmbodiment
これまで議論してきたEmbodimentは、内臓や代謝を考慮せずに、身体の外形、機械的特性、動きに関するものだった。これらは神経科学および関連分野において、感情や感覚の強い基盤となり、また動因や内発的動機づけ、さらには意思決定と強く相互作用することが指摘されてきた。$ { }^{17-19}
ロボット工学の文脈においても、感情や動機づけの基盤となる内臓と代謝を考慮したモデルについて先駆的な提案がなされている。$ { }^{20-22} しかし、実際の生物学的な内臓-代謝システムの複雑な相互作用と自律的調節に深く踏み込まなければ、新しい種類の相互作用/情報構造化を提供するスーパーEmbodimentとしての豊かな可能性を十分に解明することはできないかもしれない。
現在、我々は人間の呼吸循環系とそれを制御する脳幹神経系の統合モデル（図5）$ { }^{23} を構築しており、これを大脳の認知と意思決定の神経モデルと結合させることで、内臓系、感情、認知、意思決定の間の相互作用に取り組もうとしている。
https://gyazo.com/c6dbdb12d637897288c81d8d44655b33
Fig. 5. An integrated model of cardiovascular system and related central nervous system with arousal signal output (see Fig. 8 in Ref. 23).
スーパーEmbodimentの理論は、内臓と代謝、感覚器を備えた筋骨格系の身体、神経系、環境という複数の異なる要素を通じた相互作用のダイナミクスを記述できるべきである。有望なアプローチとして、柔軟な身体とリカレントニューラルネットワークを等価とみなす「physical reservoir computing」$ { }^{24} の考え方と理論を適用することが考えられる。これにより、生物学的な身体のEmbodimentの本質的な特性を人工システムに移植する手段が提供されるかもしれない。 我々はまた、代謝系に基づくホメオスタシスがいかにして多様な適応行動を生み出すかのモデル化も試みている。$ { }^{25,26} 次のステップとして、Embodimentの中に現実的な内臓-代謝モデルを含めることで、認知ロボティクスにおける従来のEmbodimentの概念を超えることを目指している。 6. 結論
Embodimentは、実際の入出力を特定することなく相互作用に対して直交する安定的で一貫した制約を提供する「open intelligence」の基本原理として機能し、予期せぬ状況で賢明に行動し、汎用知能を獲得するように発達することを可能にするかもしれない。 さらに、内臓と代謝、概念と言語、共感と社会的相互作用を包含しながらこの構造を維持し、一般的な理論的フレームワークを構築することで、感性、価値観、概念、道徳性の創発と発達につながるかもしれない。この「スーパーEmbodiment」は、artificial humanityに向けたhumanoid scienceのもう一つのフロンティアとなるかもしれない。