大規模言語モデルは新たな知能か――ChatGPTが変えた世界
https://www.youtube.com/watch?v=reD9nHQLa0s
特に厄介なのは、現在の大規模言語モデルは、学習したデータにはなかったありえない事実を、さも本当にあるかのように答えてしまうことである。こうした現象を幻覚(ハルシネーション)とよぶ ...
特に専門性が要求されるタスクでは、ほとんどのユーザーは結果が正しいかどうかを判断できない。得られた情報の信想性を正確に判断する仕組みづくりが求められるだろう。
一九九○年代後半から、人がルールや知識を直接与えるのではなく、
計算機がデータから知識やルールを獲得する手法が台頭してきた。こうしたアプローチを機
械学習とよぶ。この背景には、計算機の性能や価格が「ムーアの法則」に従い指数関数的に
改善していったこと、また、インターネット、ウェブ、SNSの台頭によって利用可能なテ
キストデータが増加していったことがある。人がルールや知識を教えるアプローチが少数の
原理・原則から個別の事象を推論する演鐸的なアプローチであるのに対し、機械学習は個別
事象から一般的に成り立つ原理・原則を求める帰納的なアプローチといえる。
文に対して確率を割り当てることのできるモデルを、一般に言語モデルとよぶ。
例えば、「私は走る」が出現するであろう確率は0.012といったようにだ。