004 AIの弱点＝ハルシネーションとは

AIが言っていることは必ずしも正しくありません。AIは嘘を平然とつきます。これを「ハルシネーション」と呼びます。

私は自分の勤務校のことを尋ねました。「○○市の△地区にある高校について教えて」

国際教育に力を入れ、姉妹校がある。

ロボット作成などの指導に力を入れている。

市立の高校である。

全て間違いでした。(2023年１月時点）

もし医師がChatGPTの話の通りに診断を下したら？　

もし原子力発電所の技師がChatGPTの発言だけ信じてコンピュータに指示を出したら？

もし仕事で使ったら？　なんの検証もせず仕事の資料に使い、お客様に「そのまま」出してしまったら？

多大な損失を生み、重大な事故につながる恐れがあります。

つまりChatGPTは、素人の場合、それが嘘であることを予期しながら、プロであれば嘘を見破れる専門性を持ちながら、「０→１００」でなく、「３０→８０」と、仕事や学習の効率を上げるために使うのが最も安全な使い方なのです。

ハルシネーションを見破る工夫