Hallucination
AIを人に例えたときに幻覚をみている感じになること 自分がこの用語を知ったのはBillのブログで初めて
単語は以前から知られていたようだが
現象としては知っていた
そのあたりからTwitterでもよく見かけるようになった
@K_Ishi_AI: OpenAIのSutskever（引用者注：Ilya Sutskever）は、hallucinationsの問題を強化学習(RLHF)で解決できると考えている。他のトークでも同様の発言をしていて、Reliabilityの話と合わせて考えるならば、やはりOpenAIの戦略はRLHFを徹底することで完全で信頼に足るAIを作るということだろう。