Hallucinations
ハルシネーションとは、人工知能(AI)が事実に基づかない情報を生成する現象のことです。まるでAIが幻覚(=ハルシネーション)を見ているかのように、もっともらしい嘘(事実とは異なる内容)を出力するため、このように呼ばれています。 例えば、学習に用いたデータに「旭川市の旭山動物園では、シロクマを飼育しています」という情報が含まれているにもかかわらず、AIが「札幌市の旭山動物園では、シロクマを飼育しています」という回答を出力するようなケースが、「Intrinsic Hallucinations」に該当します。
一方、「旭川市の旭山動物園では、シロクマの親子が園内を散歩するパレードを行っています」という回答を出力したケースは、「Extrinsic Hallucinations」に該当します。学習に用いたデータには、園内のパレードについての情報は存在しないため、事実かどうかの検証ができないからです。