存在しないものを生成すると創造される
良い意味でも悪い意味でも「存在しないものを生成すると創造される」と想定することが生成AIを使う上で有用そう
「出典の論文を示して」などのプロンプトに対してデタラメのハルシネーションを出力する それが存在しないのに人間の側が暗黙に存在すると仮定して生成させたから創造される 何かを創造したいとき(たとえば新しいゲームを作るなど)要件を満たすものがすでに存在しているなら、新しく創造するのではなく既存のものを再現してしまう
まあ、再現率が100%ではなくて結果として違うものが生まれたりすることもある
どちらのケースも、人間が「存在しているかどうか」を検証せずに決めつけているのが問題
存在している既存のものを得たいのか
存在していないものを新しく作りたいのか