自信過剰なハルシネーション
「AIは自信満々に嘘をつく」
ChatGPT-3.5
が登場した頃に広まったAIへの印象
ハルシネーション
だけならともかく、AI自体が断定的なのでユーザーが混乱してしまう
大規模言語モデル(LLM)の自信過剰
GPT-3.5の頃だと、LLMが持つ知識と自信のバランスがとれていなかった可能性がある
「あなたは○○です」プロンプト
の影響
専門家、スペシャリスト、一流のとかをつけると
自信過剰
になりやすい
実際はユーザーとのすれ違いが起きていて間違いを認めたがらない
自信満々な状態から、同ジャンル初学者の視点で再回答させたら軌道修正しやすくなるかもしれない