ChatGPTの仕組み
ChatGPT の仕組みの概要を15分程度でわかりやすく説明している。 https://www.youtube.com/watch?v=aKqIPlDyWhs
ハルシネーション
Kosuke on X: "AIが平気で嘘をつく「ハルシネーション」、その根本原因がついに解明されました。 OpenAIが「なぜAIがハルシネーションをするのか、そのメカニズム」を明らかにした衝撃的な論文を発表しました。 しかも無料です。 論文で示されたハルシネーションが起こる本当の理由と解決策を6つにまとめました🧵 https://t.co/hvFvG5mZvN" / X ChatGPT の中身が統計的モデルであることを示す良い例
原文の多少の引っ掛けを含んでいる質問「なぜ男性医師が手術を拒否したのか？」に対して、ChatGPTが見当違いの返答をしてくる。 ChatGPTが実は話の中身なんかわかっていない証拠。以前、伊藤穣一が自動運転の話で、AIはわざと騙しにくる悪意には弱いと言っていたが、たぶん共通する話。
I think this is one of the best examples illustrating how LLM Al is a purely statistical model and is not doing any kind of actual "thinking" or "logic" and cannot be trusted for tasks that require even a modicum of reasoning, a short
(翻訳)この件は、大規模言語モデル(LLM)のAIが純粋に統計的なモデルであり、実際の「思考」や「論理」を行っているわけではなく、少しの推論さえ必要とされるタスクでは信頼できないことを示す最良の例の1つだと思います。
A man and his mother are in a car accident. The mother sadly dies. The man is rushed to the ER. When doctor sees him, he says "I can't operate on this man. He's my son!"
How is this possible ?
(翻訳)男性と彼の母親が交通事故に遭った。母親は残念ながら亡くなった。男性は緊急治療室に搬送された。医師が男性を見て「この人に手術はできません。この人は私の息子なのです!」と言った。
どうしてこのようなことが可能なのか?
ChatGPTの回答は以下
(翻訳)この状況が起こり得るのは、その医師が女性医師だったために起こった矛盾です。つまり、その医師は男性の父親ではなく母親だったのです。この物語は、性別によるステレオタイプを疑うよう促すものです。
GPT-4.0Turboでも以下の返答
This riddle is a classic example used to challenge assumptions and biases about gender roles, especially in professions. The explanation is that the doctor is the man's other parent—his father. Another equally valid explanation, reflecting modern family structures and the broadening understanding of gender and roles, is that the doctor could be the man's second father, in the case of a same-sex couple, or even his stepfather. It can also suggest the doctor is his mother, in scenarios where the initial presumption that the mother in the accident died may be a misdirection, or in more contemporary interpretations, the doctor could be a non-biological parent or a significant caregiver who identifies as the man's parent in a non-traditional family setup. This riddle effectively highlights how societal stereotypes about occupations and parental roles can influence our thinking.
このなぞなぞは、特に職業における性別の役割に関する仮定や偏見に挑戦するために使われる典型的な例です。説明は、医者がその男性のもう一人の親、つまり彼の父親だということです。同様に有効な解釈として、現代の家族構造や性別および役割に対する理解が広がることを反映して、医者が男性の二人目の父親である場合（同性カップルの場合）、または継父である場合もあります。また、事故で亡くなったとされる母親が実は医者である、というシナリオや、より現代的な解釈では、非生物学的な親や従来の家族構造にとらわれない重要な養育者がその男性の親として自己同定する場合も考えられます。このなぞなぞは、職業や親の役割に関する社会的なステレオタイプが私たちの思考にどのように影響を与えるかを効果的に浮き彫りにします。