幸福な統治のための情報収集手段
from
日記2024-01-20
幸福な統治
のための
情報収集手段
nishio
今日のイベントを通じて少し言語化が進んだ。「
人間より賢いAI
」は「
同じ入力が与えられたなら
」「
人間の中央値より賢い
」わけなのだけど、この「同じ入力が与えられたら」の部分の難易度が解く問題によって異なる。「与えた文章を翻訳せよ」は簡単な問題。「人々を
幸福
に
統治
せよ」は難しい問題。
nishio
この問題を解くためには「大勢の人々が、それぞれどんな状態にあり、どんな経験をして、どんな気持ちになったのか」の情報を集める必要がある。それを集める上で「紙に政治家の名前を書いて箱に入れる」という収集手段では
帯域
が狭すぎる。もっと良い情報収集手段が必要になるわけだ。
選挙は4年に一度5bit送信する遅い通信だ
nishio
ちなみに「入力を受け取って判断を下すAI」の部分も、現在多くのケースでは「一人一票で選択肢を選び、最も大勢から選ばれたものに決める」という貧弱なアルゴリズムが使われている。これをより良いものに置き換えようというのが
メカニズムデザイン
の目的の一つで、
Quadratic Voting
はその成功例。
多数決という貧弱なアルゴリズム
/plurality-japanese/Social Hack Day雑談後半#65ab74873a05d300006b63b3