デジタル民主主義の未来(オードリータン/松尾豊/上野山勝也)

https://scrapbox.io/files/68157cbdc0b7d0e41d8d6582.png

https://www.youtube.com/watch?v=pI9eXpWi2Bs

上野山氏：AI 言語モデルとデジタル民主主義が交わることで「これまで不可能だった大規模コラボレーション」が可能になるのでは？+自己紹介も

タン氏

「數位」はデジタルと複数の意味がある

「デジタル大臣兼“多元性”大臣」として職務記述を書いた

AIが高度化して人々を置き去りにするのではなく、多くの人々にベネフィットを与える

AI の“垂直”な高度化ではなく“水平”な価値配分を重視

松尾氏

AI戦略会議の議長として日本政府のAI 戦略の議論を主導中

今日は「AI が民主主義・産業社会をどう変えるか」を深掘りしたい

上野山氏:

生成 AIはトレードオフをどう破れるか？

タン氏

それぞれの共通点や相違点を見ることができる

20万規模では無理

選挙や代表制が必要になる

Pluralityの技術によって会話の流し方をより良くできるのではないか

ファシリテーターを容易にしたい

SNS詐欺広告（偽有名人による暗号資産の勧誘など）への対策

DeepFakeで声を作る

FacebookやYouTubeでこのような広告で生計を立てている人

台湾デジタル省（MODA）が 2023 年8 月に導入した 公式 SMS 送信者ID。

政府機関発のショートメッセージは 番号「111」 を表示し、利用者がフィッシング SMS を瞬時に判別できるようにする。

通信キャリアは「111」を第三者が偽装できないよう技術的に保護。

政府 URL 短縮サービス（url.gov.tw）などと併せ、詐欺広告・偽通知対策の一環として運用されている。

オンライン 10人×45室に分けて議論

AI ファシリテーターで同時進行

いいアイデアが出てきた

Scamが発生してから問題報告して対処すると遅くなる

Facebookに詐欺広告を出した人が誰かを広告が出た後に特定して賠償請求するのでは遅くなってしまう

本人確認せずに悪質広告を流したプラットフォーム側が賠償責任を負う仕組みを提案 ⇒ 85 %の国民支持を得て7月に法律成立

これは広告内容の検閲ではなく、本人確認の厳格化であるので、広告の検閲を危惧する人も納得した

Facebook/Youtube上の詐欺広告激減

松尾氏：少人数が議論して合意した人は納得するが、議論の結論を「外にいた人」が見ると納得感が薄れるのでは？ 国全体へどう拡張するか？

タン氏：

ランダムに450人を選んだのは、統計的に「他の450人を選んでも同じだっただろう」と言えるため

見える化するツール

SenseMaker（OSS）の可視化ツールで個人発言〜最終合意を多層表示

ケンタッキー州の実例紹介

ボーリングリーン？

o3.icon

なぜタン氏が言及したのか

市と郡が 2050 年までの長期ビジョン（BG 2050）策定のため、住民参加型オンライン対話を実施。

Plurality の実験場

Polis 型アンケートと AI ファシリテーションを組み合わせ、分極を避けつつ合意の“橋渡し” を可視化。

タン氏は「台湾の手法がケンタッキーでも機能した」として、国を越えた プロソーシャル・メディア 実装例として紹介しました。

要するに、ボーリング・グリーンは 「地方都市でも AI＋住民参加で都市計画を共創できる」 ことを示す象徴的テストベッドとして挙げられたわけです。

「合意形成の過程」を見せる

AIが作ったサマリーだけではなく、どんな対立があって、どう合意に達したのかが見える

この画像だけでもかなり力がある

左派右派と分かれていてもほとんどのことには合意している

10 % の参加者が 90 % にデータの可視化を通じてストーリーを伝え、橋渡し役を果たす。

松尾氏：なぜ今なのか？

自らの 2009 年 Twitter ソーシャルセンサー研究を回顧。

5000件以上引用されているが、政治家は当時関心薄。

状況が変わりつつあるのか？

タン氏：

SNS は 2009年の“フォローフィード”だった

Twitterはマイクロブログであり人をフォローするとその人のフィードが流れてきた

2015年以降の“for youフィード”へ

アルゴリズムが個人の行動データをもとにフィードを決めるようになった

ユーザのエンゲージメントを高めるためのアルゴリズムが極端意見をブーストし分極化を深刻化させることにつながった

日本ではあまり理解されていないのかもしれないがアメリカやヨーロッパではこれが重大な問題だと認識され。政治家も修正策を模索し始めた

水平的な信用モードと違う(? 英語でなんと言ったか不明)

共通点よりも極端な声がバズって注目を集める

これが2009年と2015年の違い

上野山氏：これを思想を超えて現実のソフトウェアとして実装していくことのヒントがありませんか

タン氏：

Polisはupvote/downvoteが可能で、リプライはできない仕組み

スコアボードがある、ブリッジボーナス、異なる意見グールプから賛成される「橋渡しになる意見」に注目が集まる仕組み

これは分極化アルゴリズムとは反対のもの

3週間の議論で一位になった意見をタクシー組合・Uber 合同で確認し、法案化した

上野山氏：LLMはワードとコードの境界をなくす。要約するだけでなく「平均的意見との差分」を計算できるようになったことが非連続な変化なのではないか、人間の認知限界を超えた対話が人類史初めて可能になるのでは。統計的正しさを(もちろん真理とは違うことは前提として)計算できると思う、どう思いますか？

タン氏：

F511 などソクラティック対話型 LLMで陰謀論者とも建設的対話が可能。

短い質問をする「どうして陰謀だと思いましたか？」

「そのニュースを本物と感じた経験は？説得力を感じた要素は？」—>当人の 認知因子 を引き出し、結論を押しつけず自己検証を促す。

フェイクニュースであっても会話の余地はある

2024 年 9 月『Science』に掲載された Costello・Rand らの実験で使われた GPT-4 Turbo ベースの対話LLM。

被験者（陰謀論者）が提示した「信じる証拠」を AI が要約 → ソクラテス式質問とエビデンス提示で再検討を促す。

8 分弱・3 往復の対話で平均 信念強度-20 %、4人に1人は「信じない」側へ転換。効果は少なくとも2 か月持続。

名称の由来 : 研究チームの内部バージョン番号（Fine-tune 5.1 ⇒ F5.1 ⇒ F511 と表記）。公開APIや製品名ではなく、論文・GitHub リポジトリでのみ確認できる。一般利用は debunkbot.com で試験提供中。

ただし 説明可能性 と 文化的バイアス除去 が必須。

クローズドモデルだとバイアスがあるかもしれない、検証できない

MRIのようにモデルの内部を見れるようにしなければならない

文化的な要素

翻訳できたとしても文化的にマッチするか？

上野山氏：「我々が今までやってきたコラボレーションや意と異なるシステムが実現可能なんじゃないかという話」はなるほどなと思ってます

松尾氏：AI が最適なコミュニケーションを媒介するとしたら形は？

タン氏：

AI は「アシスト型」であるべき。

権威主義的な使い方にもなりうる、監視カメラの画像がクラウドにアップロードしたり→権力の強化

孤立したメインフレームを強くするのではなく、スプレッドシートをインターネットで共有する方向

中央集権的な権力に対して市民が抵抗できるような状況を作っていく

上野山氏：個人のアシストだけでなく集団のアシストもあるのでは？集団をアシストしていくと個体で考えると認知限界を超えるのでは？

タン氏：

150人を超えていくのはwelcome

よくないこと

個人が個々人でボットだけと対話→brainwashになってしまう

グループなしに増強された知性、よくない例

“筋トレをロボに任せる”状態で民主的筋力が衰える

上野山氏：未来のベストなコミュニケーションの仮説とかありますか？

松尾氏：過激な意見がなくなっていくと、結局みんな真ん中に寄ってきて多様性がなくなってしまうのでは？

タン氏：

クロスカット・ディバイド

意見グループAとBに橋渡しをする

橋を渡る人もいる、渡らない人もいる

グループは3つになる: Aに留まった人、橋を渡った人、Bに留まった人

新しい「違い」を生み出している

無関心をなくしていく、好奇心を作る

差が大きすぎると互いに無関心になる

無関心が敵、違いは友

松尾氏：ロボティック基盤モデルなど「フィジカル AI」の産業波及をどう見るか？

タン氏：

現実世界と接続することでAIの多元的成長が促進される

現実世界で多様な倫理観を持つ人々とインタラクションするほど「多元的に成長するモデル」が鍛えられる。

進化のプレッシャーが増える

継続的な実社会との交流が大事

私は楽観的に見ている

西洋では一般的ではないかも

東アジアは“ターミネーター”でなく“ドラえもん”文化圏

ロボット観が基本的に協調的＝社会実装の土壌がある

モデレータ:

国民国家 を単位にした既存の民主主義システムではガバナンスに限界があるのでは？

国際協調が十分機能しないまま AI 競争 と データ支配 が進むと、超国家的な少数プレイヤーが新たな支配力をもつ危険もある。

恩恵を最大化しつつリスクを最小化するには、民主的枠組みをどう進化／変容させるべきか？

タン氏：

USB-C 義務化の例

独自コネクタを禁じてもイノベーションは減らない。

むしろ「ライセンス料を払わずに済む」新規参入者が、充電品質で勝負できる。

これが“反競争”どころか競争を増やす

独自仕様で囲い込むモデルを崩し、相互運用できる共通インターフェース上での質と機能の競い合いに転換できる

ポータビリティが重要

ユタ州 Digital Choice Act：TikTok→Bluesky 移行時、投稿・フォロワー・DM を 丸ごと移転 する義務。モバイルナンバーポータビリティと同じ発想。これが 国家を超えた競争と協調 を共存させる鍵。

「データ＆アカウントのポータビリティ強制」がイノベーションと国際協調を両立させると提唱

新しいサービスへ移動することを容易にする

“失うものが多すぎて移れない”ロックインを解消。

結果的にプラットフォームではなくプロトコル（データ形式・API）の優劣で競争が起きる。

松尾氏：

社会システムはハイパーパラメータが多い、実験していかないといけない。その実験を国単位でやるのか？

デジタルに疎い人が表の多くを持っている問題

安野くんが新しい政党を立ち上げてて、ぜひ頑張って欲しいと思っているけど、どうなるかな

上野山氏：

民間ができることを考える

一つの超知能があらゆる産業にとはならないのでまず分散型になるはず

アプリケーション層に組み込まれていく

アプリ層には開発者の意思や価値観を埋め込めるため、設計次第で社会的インパクトを変えられる。

現在のソーシャルメディアは「広告収益最大化」が目的で、人間の脳がハックされてる

目的関数を中長期的・公共的にずらすデザインは可能

社会問題の大半は「人と人がうまく意思疎通できない」コミュニケーションの問題。

多くの人間とコミュニケーションができないことが問題

言語を扱えるAIを投入すれば大きな改善余地がある

こうしたアプリを実際に形にするのは、民間企業やエンジニアの役割である。

オードリータン大忙しだな、今週2回目だわw

https://pbs.twimg.com/media/GqvnfPBWMAAIlFi?format=jpg&name=small#.png