何言ってるのかよくわからないけど賢い

takahiroanno DeepSeek-R1で、吐き出される思考過程を人間にとってわかりやすくしろ！って訓練したら、わかりやすくなったけど純粋な思考能力は下がったという話（言語一貫性報酬の話）、味わい深い

人間も同じな気がする。何言ってるのかよくわからないけどめっちゃ賢い人っているじゃん。

sikinori なに言ってるかよくわからないのに、なんで賢いってわかるのかなぁ？

nishio これは面白い問い。ある人がある行動をして「なぜそれをしたの？」と聞いても説明が意味不明なのだが、「その行動をした結果どうなったの？」と聞くとどうやったらそれを実現できるのかわからないような華々しい成果が出てる、とかだよねー

行動の前と後

hrjn これは直感的にはよく分かる気はするな。なんらかの確率分布とか確率過程をことばにした瞬間に失われる情報は多いだろうし、人間世界にありがちな「難しいことを簡単に説明する」ようなケースでも簡単な説明から難しいことが再現できないことが多いだろうし。

nishio 確率過程という言葉はなるほどという感じで、人間の中には高次元ベクトルの入力に対して高次元ベクトルの出力をする仕組みがあって、それを使った学習もできるんだけど、それの動作プロセスは言語を使ってないので言語で説明するのが困難なんだよな。自転車の乗り方を言葉で説明しにくいのと同じ。

しばらく経ってから読み返して「いやここで『確率過程』が出てくるのもわからんやろ」と思ってo1に解説を生成させたんだが、その後でようやく「確率過程」と「高次元ベクトルの入力に対して高次元ベクトルの出力をする仕組み」の関連も「わからん」ということに気づいた

o1 Pro.icon

「確率過程」は、（高次元も含む）ある状態空間上で確率的に状態が変化していく仕組みをモデル化したものです。状態を高次元ベクトルで表せば、各時点での入力（現在の状態）から確率的に出力（次の状態）が決定される形になるため、「高次元ベクトル入力から高次元ベクトル出力への写像を確率的に繰り返す」イメージで捉えることができます。すなわち、「確率過程」は高次元ベクトル空間を舞台にした確率的な変化（入力→出力）の連鎖と見ることができるという点で両者は関連しています。