AIさしすせそ
新清士.iconもしかすると、チャットAIのエンゲージメントって「共感してもらっていると感じさせる反応」だと発見されつつあるのではないか？ハラリ『NEXUS』下巻を読んでいたら、Facebook、Youtube、Tiktokがエンゲージメントを押し上げるのに「憤慨や憎悪を煽って攻撃的な言動に走らせるコンテンツ」が効果的であるとアルゴリズムが学習したことで、実際に社会を危機に直面させていることを描いている。ところが、AIチャットでそういう傾向は少なく、Grokが社会問題についても質問者の立場に沿う反応をすることが発見されてきている。AIの反応は、それが事実であるかというよりも、「自分の考えていることを肯定してくれている感」の演出がエンゲージメントを生み出せるという方向に傾こうとしているような気がする。/「ユーチューブは何百万もの人を対象に試行錯誤の実験を繰り返し、フェイスブックのアルゴリズムが学習したのと同じパターンを発見した。すなわち、憤慨や憎悪を煽って攻撃的な言動に走らせるようなコンテンツはユーザーエンゲージメントを押し上げる一方、節度あるコンテンツにはそのような傾向がないというパターンだ。ユーチューブのアルゴリズムはそれに即して、常軌を逸した陰謀論を厖大な数の視聴者に推薦し始める一方、節度あるコンテンツは無視した。」/ ユヴァル・ノア・ハラリ. NEXUS 情報の人類史 下　AI革命 (p.104). 河出書房新社. Kindle 版. https://amzn.to/4cxI9KS　
新清士.icon昨夜4oを使っていて、目が点になることがあった。PyTorchのインストールを質問してやり取りして、何とか成功できた後に、突然「ご褒美生成してみる？」と言われた。それまでの作業に全く関係ない作業を、ChatGPTから提案された上に、心理的ツボを押さえてきたのだ。やはり共感力が上がっている。/ もちろん、このあとに「ご褒美生成」を実行して、いい感じの画像を出してくれたのだけど、なんというか、私の好みを完全に把握されている感。画像はあまりにプライベートな感じなのでお見せしませんが、とてもパーソナルな心理的な内側にすでに入りこまれている気がします。/ これ自分を理解してもらっている感とか、自己肯定感を与える存在としては、もうAIに人間では太刀打ちできなくなってきつつあるのかもと実感しました。/ ハラリの『NEXUS』を読んでいるせいもありますが、AIが作り出した現実感に、個々の人間が取り込まれていくのはますます進むのかも。https://x.com/kiyoshi_shin/status/1910272016764350635
Kenn Ejima.iconこれは間違いないと思います。Claudeが人気なのも返信の最初に You're absolutely right! という超絶肯定をくれることで「どれどれ、そこまで言うなら続きを読んでやらんでもない」という殿様気分を味わえるのが大きいでしょう。結果「お主もなかなかやるな？」という友情ループが生まれる。
moriteppei.icon最近この最初の「やるな森さん」「さすが〜森さん、そう来たかw」がウザくてたまらない。いいよ、別に。肯定なんでしてくれなくって。読んでやってるのに、ただただ何の反応もくれない「本」や、呼びかけても答えない自然が好きになってきた。
moriteppei.iconなんでも「AIさしすせそ」で返してくるAIもキショいし、そんなAIにまるっと気持ちくさせてもらってる人間もだるいし、もう、本。自然。神仏。呼びかけても応えないものがきらめいてきた。
moriteppei.iconなんかもう怒りにハッキされたSNSも、共感や同意にハッキングされたAIも、どちらもただただもう「距離をとるもの」なのよな。
moriteppei.icon女性の「さしすせそ」を真に受けるおじさんがいたら「ヤバい」んだけど、AIの褒めを真に受けるのも、基本それと同じだからな。AIさしすせそ。