人間のハルシネーション

@yuiseki_: 大規模言語モデルはずっと一貫して入力に対して尤もらしいことを出力しているだけで、たまに事実を出力するなぁとか感じているのは、人間のほうがHallucinationを見ているとも言えませんか

@nishio: 「AIが真実を教えてくれる」と妄想して出力を真実だと思い込んだり、真実でないと気づいた時に「AIが嘘をついた！」とAIに非倫理的な意図があったかのように妄想したりするのは人間のハルシネーションと言えそうだ

@nishio: よく見る人間のハルシネーションのリスト

1: LLMが常に真実を出力すると考える

2: LLMが真実でないことを出力した時に嘘をつく意図があったと考える

3: LLMが学習データより後のことを知ってると考える

他に何があるかな？

nishio 人間のハルシネーションの例「正しい情報で学習させたシステムは正しい情報を出す」

>noricoco: 日経Think！今朝はこの記事にコメントしました。多くの記者が「誤情報を学習することで、chatGPTは間違える」と思うようですが、仕組み的に、たぶんそうではなく、出力状態から見て、chatGPT自体が捏造？している可能性が高いかと思います。