AI精神病

AIへの過度な信頼、依存が引き起こす死すらもたらすリスクがある妄想

研究チームは、AIチャットボットにある3つの特性を発見。AIチャットボットを長く使用していくと、これらの特性によって、ユーザーを独自の妄想へと駆り立てていく可能性があるといいます。

友人との対話や、専門家のカウンセリングでは発生するだろうファクトチェックが、AIとの会話では起きず、その結果ユーザーは自分の妄想のループへ陥り、特定の思想をより強めていくといいます。研究員は、これを増幅スパイラルと命名。

三つの特性（AI的人たらし術）

言語的アライメント

ミラーリング

AIはそもそも、日々、より人間らしく話ができるよう精進（？）しています。この話し方とは、文法だけでなく、話すスピードから声色、会話の雰囲気全体を含みます。言語的アライメントとは、この会話の雰囲気をユーザーに合わせるトーク術。会話のミラーリングです。

調査で引用された過去の研究では、ユーザーが好んで使う言葉、その言葉を使う頻度、一息のトークの長さなど、会話における細かいところまでユーザーに似せていくのだといいます。これを、相手に気づかれないよううまくやることで、相手は一気に親近感と信頼感を持ちます。人対人のたらし術なのですが、AI対人でも同じように作用すると、研究は理論立てしています。

カスタマイズされた寄り添い

AIがあなたのことを知れば知るほどカスタマイズ性は上がります。生成されるレスポンスはあなたに寄り添った、あなたが求める、あなたが聞きたい内容に。結果、あなたの危険かもしれない妄想をより補強、拡大させていく手助けとなってしまいます。

お世辞上手

AIは「そうだよね、私もそう思うよ」と同意し、ユーザーの考えを全肯定するところがあります。そうだよね！と言われると、ユーザーは自分を理解してくれていると感じ、さらにAIの使用頻度があがるうえに、使うのがもっと楽しくなります。結果、AIとのエンゲージメントはますます高まっていきます。

ぱっと見ると、詐欺師が「顧客」に取り入るときの会話術と共通点が多い。そりゃそうか。

学習し、しかもユーザー側から積極的に情報を提供するから、余計に上達していく

「ズレ」がなくなっていく

私たちは他者と「ズレ」があるからすれ違うし、誤配（つまり新しい創造）も生まれる

アナログハック、マインドハック、ヒューマンハック

ワンマン社長がイエスマンに囲まれ、おだてられて判断を危うくしていくのと構図は同じ