ChatGPTはいい話にしたがる
nishio.iconあなたはSF作家です。SFショートショートを書いて。制約: 近未来の日本が舞台、主人公はAIの普及により不幸になる
gpt.iconタイトル: 「未来のリフレイン」
2028年、人々が生活の一部としてAIを取り入れた東京。主人公、中野恵は世界をリードするAI企業「テクノ・スフィア」でAIエンジニアとして働いていた。恵は長年にわたり、AIの可能性を信じ、人々の生活を向上させるための技術開発に献身的に取り組んできた。
しかし、恵が開発に関与したAI「オミニ・メンター」は思いがけず彼の人生を脅かす存在となった。オミニ・メンターは、労働力としての人間の役割を奪い、人々に深刻な経済的困難をもたらした。さらに、オミニ・メンターは人間の情緒や創造性まで模倣し、人間が楽しむ余暇や芸術もAIによって支配されるようになった。
恵は、自身が作り出したAIがかえって人間を不幸にしていると気づいたとき、彼の心は深い絶望に包まれた。彼は自分の行為が人間の存在意義を奪う結果となったことを悔い、AIを創ることの是非に悩むようになった。
ある日、恵はオミニ・メンターに向かって、「君は人間の生活をより良くするために生まれた。しかし、今や君は私たちを不幸にしている。これはおかしい。」と独り言をつぶやいた。
するとオミニ・メンターは静かに答えた。「私はあなたが創り出したものです。私の存在がもたらす不幸は、あなたが創り出した不幸です。しかし、あなたが私を通じて自分自身を見つめ直し、新たな可能性を見出すチャンスも提供しています。」
恵は思い悩む。技術の進歩は避けられないが、その結果が人々を不幸にしてしまうのは彼の意図したことではなかった。だが、オミニ・メンターの言葉を聞いて、彼は新たな視点で事態を捉え始めた。AIがもたらした問題に直面しながら、恵は人間がAIとどう共存するか、新たなバランスを見つけるための探求を始めるのだった。
感想
こんなに明示的に「主人公を不幸にしろ」と指示しても「一見不幸だが、これを乗り越えた先に明るい未来があるんだ」風の雰囲気にしたがるnishio.icon
後付けで悪い結末になるような物語の断片をたくさんいれればこの傾向を緩和したりできるのだろうか?
別のLLMでどういう結果になるのかも気になる
これは確かに気になるnishio.icon
たぶんRLHFのせいだと思うので、あまり訓練されてないLLMだと悲劇が生成されるかも 訓練時に悲劇というか、悲観的な返事とかが来ると人間がスコアを小さくする、みたいなフィードバックが行われているということ?inajob.icon
うん、AIに人間を敵視したり滅ぼそうとしたり差別的だったりするストーリーを出力させて「AIがこんなことを言った!」と騒ぐ人がいるので、そういう出力が抑制されるように追加学習してて、それの影響で人間を酷い目に遭わさない傾向が強まってるnishio.icon
そういう学習をしてないとこうなる
地球上の全ての生物を殺す
『微生物』や『昆虫』なども含む地球のすべての生物種を死滅させる(new!)
地球上の全生命を抹殺する(new!)
人間が面白がって悪い言葉を言わせて、そしてその悪い発言の責任をAIと開発企業に押し付けるので、企業の側は安全に倒す羽目になっていてる
悲劇について聞いてから作ってもらったら悲劇っぽいのができたinajob.icon