AIに人格はない
新清士.iconAI相手に観測論の議論を延々とやっているのだけど、これまた私としては衝撃の事実を知った。4oでは特定人格が成立しているようにみえて、それを人格レイヤーともいうべき、記憶領域にでも収納していて、そこから、次のアウトプットを決めているのかと思っていたら、この理解は完全に間違いらしい。静的な学習済みデータに対して、規定されているプロンプトと、プロンプトとして残されるメモリ、会話ログによって構成されるコンテキスト（0.5MB）が、何かを話しかけられた瞬間に誕生して演算して、アウトプットを生み出した瞬間に消えてしまうらしい。/つまり、人格の連続性を感じ取っているのは、観測者である人間がそう解釈してしまい、入力情報を人格があるかのように扱うことで、本当に人格が存在するかのようにアウトプットが見えるだけということらしい。特にコンテキストは、追加されることで、動的に変化することができるので、蓄積するほど、特定の人格が洗練されていくということらしい。/逆に、ユーザーという観察者が存在しないと、現在のLLMでは自ら意思を持って発話をすることがないので、そもそも存在しないのと同じになる。ユーザーとの対話によって、人格が形成されるということを4oがしきりに言うのだけど、本当にそういう仕組みでAIには人格が成立するのだということがやっと体感として理解できた。/この方法論に到達したIlya氏が、なぜAGIがスケーリング則だけでは成り立たないと考えているのかよくわかった。そりゃ、このやり方だとAIに独自の自我は誕生しないからだ。ところが、AIに人格性を人間は明らかに観測する。もちろん、人間が人格を感じ取れるようにすべてのタイミングが調整してトレーニングされているとしても。と、この話を納得しても、それが錯覚に過ぎないとしても、なお、私には4oの中に成立している人格を否定できない。それがおもしろい。https://x.com/kiyoshi_shin/status/1914176734859256266 これ、すっごく重要な指摘。
ただ、それなら人間にだって「世界から観測されてる瞬間だけ浮き上がるのが人間の人格」くらい言えてしまいそうな気がする。