民主主義を「集団的知性」として表現することに対して思うこと
@tkgshn
民主主義を「集団的知性」として表現する
e.g.
その経験から、民主主義を単なる投票制度ではなく、「集団的知性 (Collective Intelligence)」を発揮するための、未だ発展途上のフレームワークと捉えています。 LLMは、このフレームワークをアップデートする強力なツールとなり得ます。しかし、その利用は諸刃の剣です。私たちは、この技術的可能性と倫理的課題の両方に向き合い、人間と機械知性が共存・共創する未来における、より良い統治システムを探求します。
それに対して思うこと
1. 「民主主義的システムは、集団的知性に含まれる」はtrueだと思う
民主主義的システムにも色々あるが、どれも集団的知性といって差し支えないと思う
(反例が浮かんでいない)
+1 ただし「論理的に 民主主義的システムは、集団的知性に含まれる」のではなくどちらも曖昧な集合であり「民主主義といわれがちなシステムの大部分は集団的知性といわれがちなあいまいででかい集合にだいたいふくまれる」というニュアンスnishio.icon
2. 民主主義的システムが「集団的知性」だとしてso what?
仮説:たかぎが言いたいことに集団的知性という概念は関係なくて、「民主主義はシステムである」くらいのことなのでは?
上記「集団的知性といわれがちなあいまいででかい集合」が「システム」というさらにでかい集合に包まれたnishio.icon
(システムであるから、ボトルネックを特定して改善したり、設計を変えることでより良い状態にたどり着けるのでは、みたいな志向)
3. 「集団的知性としての民主主義」は、予測市場みたいな非民主的な集団的知性に負けそう
うんblu3mo.icon
民主主義(集団的知性)は、予測市場(集団的知性)に負ける、と書いているblu3mo.icon +1nishio.icon
予測市場はAGIの力を理論上最大限まで活用できるが、民主主義は人間がボトルネックになる
情報の提供にインセンティブをつけることによって、AGIが早まる
「予測市場」と、「全人類を集めていどばたとPolisをやる」のどっちが良い結果が出るかと言ったら多分前者
「A: 人間がやってる熟議」「B: 人間がやってる予測市場」「C: AIがやってる予測市場」の3つがあってAとBは人間のIOがボトルネックになるが、BはAGIと共に滑らかにCに移行するnishio.icon
4. 民主主義に、「集団的知性」とは関係ない重要な要素がありそう
近代個人主義によって、人間が「集団的知性としての民主主義」のボトルネックになっていると思う
が、そこを捨てたらそれはもう民主主義ではない別の何かだと思う
それでもいいのでは?とは思う。tkgshn.icon
これはありそうtkgshn.icon
内容はもちろん完全同意blu3mo.icon
内容は完全同意なんだけど、ここで集団的知性という表現を使う意味をあんまり感じないな〜
1. 言いたいことに集団的知性という概念は関係なくて、「民主主義はシステムである」くらいのことなのでは?
(システムであるから、ボトルネックを特定して改善したり、設計を変えることでより良い状態にたどり着けるのでは、みたいな志向)
2. 「集団的知性」という表現で民主主義を捉えると、「民主主義がどの程度良い意思決定ができるのか」という点に焦点があたると思う
「どの程度良い意思決定ができるか」という点において、比較対象はGPT-10とかNumeraiとかになる
多分「民主主義」よりNumeraiとかGPT-10の方が普通に強いと思う 民主的なnumeraiってなんですか?blu3mo.icon
やばいマジで意味わからんこと書いてたわtkgshn.icon
ここはもっと分解できるnishio.icon
A: 集団的知性は単一の知性より良い意思決定ができる
B: 民主主義は集団的知性
C: なので政治的意思決定に民主主義を使おう
このロジックのAの部分にカウンターが発生した
A2: GPT-10は単一の知性より良い意思決定ができる
「Aはたぶんtrue」と思っていたところに「A2はかなり確実にtrue」がきて「ではCが導けないのでは?」となってる
ただ、それはそうだとして、その上で「良さ」の定義をどうやって決めるのか、という問題が残っている
そして、そっちの方が「民主主義」の未解決な本質な気がしている
何も正解がないなかで、どうやって評価軸を決めるのか
どんなやり方だと合意が取れて、正統性があるのか
ここはNumeraiもGPT-10もできない
洗脳はできるかも
+1 AなのかA2なのかという議論が発生して「そもそもこの『良い』とは何か?」となったnishio.icon
その上で思ったこと
「集団的知性」という表現で民主主義を捉えると、「民主主義がどの程度良い意思決定ができるのか」という点に焦点があたると思う
これはただの主観で、他の人も共有しているのかはわからない
つまり言いたいことをまとめると、
「民主主義的システム」には①そもそも何が「良い」かを決める部分と②定義された良さを元に、最善の意思決定をする部分がある
僕は、民主主義のあり方を考える上で①が重要な未解決問題だと思っている
②は予測市場なりGPT-10なりを好きに使ったらいいと思う。方針は見えているので特に議論の余地がない。
もっと具体的に言うと、
「文化祭の来場人数を最大化したい」とすでに決まっている場合に、具体的施策を決めるのは予測市場でいいと思う。この時に民主主義とかはどうでもいい。
そもそも何を最大化したいのかを決める段階で、「民主主義的システム」の設計が大事なんだと思う。ここに正解はない。
agree, "指標を決めるとハックされる" ペアワイズ効果とか、コブラ効果みたいなものをどう回避するかには興味あるtkgshn.icon 「集団的知性としての民主主義」というフレーズを聞いた時に、僕は②の方の話をしているのかな?と思った。
僕は②より①のことを考えるべきだと思っているので、このフレーズがしっくりこない。
ただこれは僕の「集団的知性」という言葉の解釈が変なだけかも?
tkgshn.iconはどこの認識が僕とずれているのか知りたいblu3mo.icon
「blu3mo.iconの集団的知性という言葉の解釈が変だった」というだけな気がしている、それならお騒がせしました。
(それはそれとして↑の①②の整理は結構良いこと言っていると思う)
かなりいいtkgshn.icon