ピンクの象問題
@kenn: ChatGPTなどのLLMには「ピンクの象」問題がある。
同じ指示をするなら「〜するな」という否定文ではなく「〜しろ」と肯定文に書き換えるほうが良い。
人間も「ピンクの象を想像するな」と言われるとピンクの象が思い浮かぶ。
The Pink Elephant Problem | Psychology Today
シロクマ問題?
リバウンド効果
ここからリンクした高野さんの回答が秀逸。
https://t.co/7rBr1Kzxc8
プログラミングと無関係な話題で恐縮です。「人間の脳にとって、否定表現というのは負荷の高い概念」というお言葉に納得です。スポーツ心理学者の第一人者がゴルフに関して同じことを云っています。「人間の脳は否定形の表現を理解出来ない。ゴルファーが『ボールを池に入れないようにしよう』と考えると、脳は『入れない』を理解出来ず、池という言葉だけを理解し、『御主人はどうやらボールを池に入れたがっているようだ』と解釈して、忠実に池にボールを送り込む。だから、念じる時は否定形を使ってはならない」
否定形の指示の問題mtane0412.icon