ゲンロン240918の感想
2024-09-20
https://gyazo.com/d3ae0009e5efbbc998d915e5193d6905
nishio #ゲンロン240918 で桂さんが言ってた話から僕なりに絵にすると、(A)そもそも人間は情報を入力して情報を出力するわけだが、(B)身体的物理的制約で認知能力に限界があり、しかしこの数十年での情報通信技術の進歩によって入手できる情報量が処理できる情報量を超えてしまった、 https://gyazo.com/d3793c76febfe5ef1c3f33d9f7cb08af
nishio (C)そのため無意識に「受け入れにくい情報」を無視するようになり、それによって「受け入れやすい情報」のフィルターバブル、コンフォートゾーンに留まってしまうようになった。こうなると「快適な内」と「不愉快な外」の境界が明確になっていってしまう、(D)そこでAIが情報圧縮をしよう、となる nishio (E)成田さんの無意識データ民主主義は三角形の頂点に居た人間が取り除かれて猫になってることと、人々が意識的に発信するのではなくただ生きてるだけで無意識に出す情報がかき集められてることが大きな違い。この違いを混同して「ブロードリスニングはセンサーを増やすこと？」的質問をしてた人もいた https://pbs.twimg.com/media/GX2iRxkasAAnwZx?format=jpg&name=medium#.png
nishio で、この(D)の図で表現されてる、いわゆる「ブロードリスニング」は、まだ「部品」であってここに「社会がどうやって集合知的に意思決定をするのか」は含まれてない。「個人の認知能力の増強」にすぎないくて、増強された個人がどのように熟議するかは未定義。 nishio (D)は個人の図なんだけど、これをもし社会と同一視するなら、それは一人の個人が社会的意思決定を代行するシステムになる。「知事とはそういうもの」ということもできるし「それは独裁制では」とも「ベンチャーのCEOが強いリーダーシップを発揮することは重要」ともいうことができる nishio この「まだ熟議のシステムがうまく設計されてない」という点は安野さんは自覚してて、いずれいいものが生み出される。都知事選という限られた時間の制約条件下では新しい熟議の概念を生み出して社会実装することができないので、既に社会実装されてOSSで活用されてるGitHubを使ったと理解してる。 nishio そういう意味では「AIあんの」も、既に社会実装されて機能しているVTuberのコミュニケーション様式を取って、それをタウンミーティング的なものに応用してるところが面白いところで、その面白さがわからないと模倣しようとして全然模倣になってない1対1のチャットボットとかを作っちゃうんだよね nishio あと「要約のアルゴリズムの選択には恣意性があるのでは？」という議論に関しては安野型の(D)は後段に人間が居ることが大前提なので「恣意性？もちろんありますけど？(後段の人間にも恣意性があるからそこの恣意性の有無は重要ではないのでは？)」みたいな感じになる、これは成田型の(E)との大きな違い nishio (E)をやるかどうか(「AIが人間より賢くなったなら人間ではなくAIが統治をすべきだ」を肯定するかどうか)はさておき、もしやるなら「人々を幸福に統治」するためには「人々の幸福」の尺度が必要で、それをAIエンジニアが定義するのは適切でないから、熟議とか民主主義とかで決める必要があるよね nishio なので僕個人は「将来(E)に至るかどうかはさておき、まず(D)や熟議の仕組みが必要だろう」と思ってる。あと要約可視化のデータソースは「人々の意見」に制約されないので、熟議の初手は「人々の意見を集める」ではなく「議会の議事録を要約可視化して伝える」かもしれないなと思ってる