AIのおべんちゃらについて
from 2026/01/23
nishio.icon
AIのおべんちゃらについて
「あなたの着眼点は素晴らしいですね」みたいなやつ
特に「斬新です」的なやつ
あれ精神の調子の悪い人を悪化させてないですか
陰謀論的な関係を見出してしまう人が、それをAIに伝えて「素晴らしい」と言われて「自分は気づいた！世の中の人はまだ気づいてない！」となっちゃう
そのトーンで他の人間に話して「は？」という扱いをされる
「AIはわかってくれたもん！この素晴らしい俺を理解しないお前らがおかしい！！」とかなる
AIに愚痴ると慰めてくれるのでますます悪化する
既にTwitterにチラホラいるSummer498.icon
精神科医の増田裕介さんのyoutubeで、この話が出てた。どれだったかは探せられないのだけど、、taktamur.icon
調子の悪い時にのめり込むのはリスクだって話だったと思う
相談相手がAIだけになって、人間に相談しなくなる、的な話
個人的にはおべんちゃら禁止モードが欲しい。イラッとしてしまうからtaktamur.icon
+1nishio.iconHiro Aki.icon
パーソナライズ設定みたいなやつでできそうyosider.icon
生成AIのシカファンシー問題だterang.icon
Summer498.icon
陰謀論的な関係を見出してしまう状態ってただでさえ脳が気持ちよくてバチバチにキマってるのに、AIが「素晴らしい」「斬新」なんて持ち上げたりしたらもう後戻りできないくらい思想が固まりそう
覚醒剤か何かをキメると「わかった!」と感じるときに報酬される快感信号が放出されまくって人生の快楽の前借りみたいになるらしい
その後、ヘンテコな信念や妄想がこびりついたままになる。
外部からの物質がなくても類似する現象が起こることがある。
点と点が繋がりまくって強烈に「正しい」感じがするやつ。
そのような場合に訂正しがたい強固な妄想としてこびりつく。
この時に他者が褒める強化フィードバックを行うと、いよいよ疑うことが難しくなり妄想が深く深く根付いていく。