AI

現在のAIシステムに関してなにが奇妙で薄気味悪いかといえば、開発者でさえも、誰もそれがどう機能しているのか本当の意味で理解していないことだ。

理由はChatGPTその他一般的な対話型AIを動かしているAIシステム、大規模言語モデルが従来のプログラムとちがい、人間のプログラマーの手で一行ずつ書かれていないことにある。

大規模言語モデルは基本的に自分で学習する。膨大なデータを処理し、言語におけるパターンや関係性を特定し、その知識を使って次に来る単語を予測する。

こうした形で構築されたAIは結果として、リバースエンジニアリングを行うのもコードのなかの特定のバグを識別して修正を行うのもむずかしい。

現時点では、たとえば「アメリカ一の美食の町はどこですか」とAIに尋ね「東京」と回答されても、システムがなぜそんなエラーを起こしたのかを知る術はなく、また次の質問者が別の答えを返される理由もわからない。