ChatGPTは頭のいいアホ
nishio: 友人に「ChatGPTは頭のいいアホ」って言ったら伝わらなくて残念だったのだが、少なくとも暦本先生になら伝わりそうだとわかって安心したw ChatGPT4と話してて何かに似てるなー、既視感があるなーと思ってたんだけど、なんかこういうやつ居るよな的な気持ちになってきた
こういうやつとは
頭の回転が早くて高速にペラペラと単語をまくし立てる
用語をたくさん知っているので適宜散りばめる
口頭でそういう喋り方をすると、大部分の人はついていけないので「はー、頭のいい人がなんか自分にはわからない難しい話をしてるなぁ」と感じる
ので普段そういう活動をすることでメリットがあってこの行動が強化されてるんだろうな
だけど記録され発言を文字でじっくり読んでみると大したことを言ってない
適当に思いついた言葉を並べてるだけだろ的な感じ
まあLLMってそういう仕組みなので、それはそう、ということか
局所的に見て話はつながってるけど全体像としてのビッグピクチャーがない
ので根拠に乏しい思い込みを賢そうな語彙で飾り立ててるだけだなぁ的な気持ちになる
2023-03-18に上記を転記してまとめてて絵が浮かんだ
https://gyazo.com/c17249af46992afda3ba8df76a5e5b4d
1の人は言いたいことがなかなか言葉にできず、頑張って言語化してもストーリーがねじれてたりする
その人に比べると、まっすぐなストーリーをとうとうと話せる人は「頭がいい人だ」と認識される
この軸を「頭がいい」と考えた場合、GPT4は「頭がいい」になる
ところが実際にGPT4と話して僕が感じたことは逆の「こいつは頭が良さそうに振る舞ってるアホだな」だった
この感覚が何から生まれたのか
関連しそうなもの
2023/8/31
話題が転がっていってるだけで、収束ムーブが行われてないからじゃないか？