20250506東大AI研究会特別講演会
安田講堂
未来の社会とAI技術の可能性について、お二方が縦横無尽に語ります。
東大AI研究会特別講演会
https://gyazo.com/aef969fb3c1115f727fd972f2c9e7976
オーストラリア国営放送ABCがオードリーのドキュメンタリーを撮ってるらしい
https://pbs.twimg.com/media/GqPWUEcbAAAY0fB?format=jpg&name=small#.png
nishio 質問はAIがぎゅっとまとめてくれるらしい、ブロードリスニングだ！ https://pbs.twimg.com/media/GqPjqmzbAAIJWav?format=jpg&name=small#.png
nishio AI assisted panel discussion AI支援パネルディスカッション
https://pbs.twimg.com/media/GqPrMr1b0AAzkOx?format=jpg&name=900x900#.png
nishio Audrey Tang「AIがAI自身で進化するのではなく改善のループの中に人間社会が入らねばならない」 落合陽一「その場合人間がボトルネックになって人間を介さないものに速度で負けるのでは」
Au「人間はブレーキを踏んで速度を落とすのではなく好ましい方向性をハンドルで示すべき」
nishio 落合陽一「デジタルネイチャーは『なる』ものであって、思想を持って『する』ものではない。その時代において民主主義はどのような意味を持ちうるだろうか」 これはすごく面白い問い
nishio そもそも意見の異なる住民たちが合意形成するための民主主義は定住している状態で発生するのであって狩猟採集の状態では意見が分かれたならグループを分けて自分がついていきたい方向に行けばいいよねという気がしてきた takiuchi 本質的には狩猟採集というスタイルより有限の土地と水資源の方が原因じゃないかな。それらが無限にあるなら意見が割れるたびに空き地に引っ越す事は可能。無限というのは現実的ではないけど、リソースに対して総人口が十分に小さければ同じ状況になる nishio 確かに！>狩猟採集かどうかではなく、リソースが潤沢であるかどうか Audrey Tang「AI技術進歩は二つある。一つは社会の回復力、レジリエンスを高め、攻撃や破壊に対する耐性を高めるdefensiveな技術だ。これを規制してはいけない。一方でoffensiveな技術は規制しなければならない。どちらであるかに依存する。区別が必要」 Audrey「高速道路に降り口がないと、間違った方向にいってしまったと気づいても何時間も同じ方向に走り続けないといけなくなる。政府はたくさんの降り口を作って方針転換ができる状態を維持するためにトップダウンの権力を使うべきだ」
これも面白かった
nishio 「まだ人間のコントロールが効く過渡期」において、少数の過激な意見がAIによって増幅されて害をなすことがないように防衛技術を発展させる必要があるよね、という思想と、長期的には「自然」に対する人間の影響力が占める割合は減少して社会は発酵食品みたいになる、という思想は両立する気がするな nishio @ochyai 狩猟採集社会においてシェアしていたのはDNAに刻まれた行動だったのか「保存技術がなくて独り占めしても腐るから与えて『恩』に変えたほうがいい」という利己的な利他だったのか判別困難だが、毎朝起きたら違う世界になる時代には確かに今まで保存できてたものができなくなりそうではある 落合氏の言葉
「（民主主義において）みんな、美味しいもの食べてたい。ハワイでのんびりしたい。それを実現してくれる人に投票するって？？？人の希望の言語化は難しい」と、言ってたと私は理解しました。
https://gyazo.com/b058c138e2fb0e2b7e1976b5f0da0283 https://pbs.twimg.com/media/GqP0yv8bAAM1NHn?format=jpg&name=360x360#.png https://pbs.twimg.com/media/GqP0ywEbAAAgCMo?format=jpg&name=360x360#.png https://pbs.twimg.com/media/GqP0yv1bAAI9U80?format=jpg&name=360x360#.png
ところどころ、ユーモアのある言い回しがあって楽しかった。
これから、AIのワークショップ楽しみ！
https://pbs.twimg.com/media/GqPzVJEa0AAmA2a?format=jpg&name=small#.png
ochyai 〈デジタルネイチャー／マタギドライヴ〉と〈Plurality〉｜落合陽一 https://gyazo.com/a5337b8af41df33bda3e07c84c29d287
会の前に書いてたの終わってから気づいた
o3.icon
Audrey Tang 基調講演①
Audrey Tang 基調講演②
Polisの仕組みと日台での活用例（Uber議論、COVID-19対策、ディープフェイク広告規制） 落合陽一 基調講演
対談・質疑 前半
民主主義をAIで“加速”する際の望ましい方向づけ
狩猟採集社会の共有本能と現代民主主義のギャップ
「社会がステアリングホイールを持つ」必要性（Audrey）
対談・質疑 中盤
攻撃的AI／防御的AIという二軸での規制設計
高速道路とオフランプの比喩＝ロックイン回避策（番号ポータビリティ等）
対談・質疑 後半
AI透明性とExplainable AIの重要性
望遠鏡の比喩：ツールの「収差」をまず除去せよ
今後5年で“集団知がボトルネックになる”問題
NotebookLM.iconnishio.icono3.icon
デジタルネイチャー（なってしまうもの）とデモクラシー（なるべきもの）の関係性
落合氏からオードリー氏への問いとして、「デジタルネイチャー」が「なってしまうもの」である一方、「デモクラシー」は「なるべきもの」として方向性を定める必要がある。この「なるべきもの」をどのように考えていくか、という問いが投げかけられました。
オードリー氏は、デジタルデモクラシーは、従来の代表制のような相対的に非効率なシステムではなく、デジタルの力を使って人々の意見を効率的に集め、より直接的な民主主義を可能にする「なるべき」方向性だと述べました。個々の多様な意見を集約しつつ、脳波技術のような未来の技術は別として、今できる範囲で皆の意見を収集し、より良い社会対話の形を目指していると言います。
落合氏はこれを受けて、人間は狩猟採集社会では食料などをシェアすることが本質であり、それがDNAに刻まれた行動だったとコメントしました。しかし農業以降、民主主義や人権、倫理は学ばないと得られないものになったとし、今後それらをどう合わせていくかが課題だと語りました。
オードリー氏は、人間が親密な関係を維持できる人数には限界（ダンバー数の約150人）があり、それ以上の集団では抽象化が必要になると説明しました。 原始社会の抽象化が集団と他者だったのに対し、デジタル技術を使えば150人を超える多くの人々と繋がり、人間性をより解放できる可能性があると述べました。AIは、個人の知能を増幅するのではなく、このような集合知をアシストする形で人間社会の成長に貢献すべきだと考えを示しました。
人間の価値・役割とAIの共存
次に、AI化が進む社会で人間の価値や役割をどう位置づけ、社会的信頼や協調性を維持するかという質問が出ました。選択肢として「人間固有の価値を中心に社会を再構築」するか、「AIと協働し役割分担を明確化し新たな社会を形成」するかが提示されました。
落合氏は、人間にとっての知性は「ちょっとしたおまけ」であり、AIが簡単にできること（計算や推論）が人間には難しく、人間が簡単にできること（出産、摂食、病気の治癒）がAIには難しい「モラベックのパラドックス」に触れました。AIが簡単なことを基準に社会を作ると大変なため、人間が簡単にできることをAIによってもっと簡単にできるようにすべきだと語りました。 o3.icon
落合氏が言ったのは「人類の歴史25万年のうち“高度な知性を使う文明期”はごく短い“おまけ”の期間にすぎない」という趣旨で、“人間の知性そのものが取るに足らない”とは言っていません。
「AIを人間の身体的・情動的タスクの補助に回すことで、人が本来得意な活動を拡張すべき」というニュアンスでした。「もっと簡単に」という言い回しより、「人が負担なく続けられるよう支援する」に近いです。
このあと落合氏は、社会システムを「AIの得意領域（計算・論理）に最適化」すると人間の身体的・情動的ニーズが置き去りになると警告し、「人間が本来得意なことこそ AI でサポートし、持続可能な形にするべきだ」とまとめています。
オードリー氏は、AIは社会全体と連動し続けることが最も重要だと強調しました。AI単独の急速な進化は、権力の集中か、あるいは全員が強いAIを持つことによる社会の分断という二つの結果を招きかねないためです。AIは強力なエンジンだが、その「ハンドル」は常に社会の手にあるべきであり、教育を通じて人々がAIの力を理解し、個人の知能ではなく集合知をAIで増幅していく方向性が望ましいと述べました。
AIの自己発展とアラインメント
落合氏は、集合知は素晴らしいが、AIが自己発展し続けた結果、集合知がボトルネックになり、AIの行動を調整（アラインメント）できなくなった場合にどうするのか、と問いかけました。
オードリー氏は、AIと人間は協力して動くべきであり、AIは自然や動物との直接的なコミュニケーションさえも可能になるかもしれないと述べました。しかし、AIの発展は人間社会からの要求によっても促されるため、人間はAIをコントロールできる立場を維持できると考えを示しました。AIを恐れるのではなく、運転の「ハンドル」を握っている意識を持つことが重要であり、AIの行動にケアの倫理のような規範を組み込むことで、モニタリングなしでも倫理的に行動させることが可能になると語りました。
AI導入の方向性と速度
AI導入による社会変化、特に雇用の増減について、それを正しい方向に導くにはどうすればよいかという質問に移りました。選択肢として「できるだけ早く導入を加速」するか、「開発スピードを調整し、皆が使いこなせるように」するかが提示されました。
落合氏は、AIの導入、Vibe Codingは発酵食品を作ることに似ていると表現しました。全体の方向性は示せるものの、細部を完全に制御することは難しい「杜氏」のようなものだと語りました。AIに目標を示し、AIがそれを自律的に達成するようなイメージです。 腐ってしまった社会は捨てるしかない？全体が腐らないように樽を分けなきゃnishio.icon
AIの学習速度が非常に速く、規制について議論している間にAIが学習を終えてしまう可能性があるため、即座に導入を進めるべきだと考えを示しました。
オードリー氏は、技術には社会の回復力を高める防御的な技術（例：家庭で高度なマスクを製造）と、破壊をもたらしうる攻撃的な技術（例：家庭でウイルスを製造）があり、防御的な技術は加速し、攻撃的な技術は規制が必要だと区分しました。どちらを優先するかは、技術が社会全体の回復力や合意形成に貢献するかどうかで判断すべきだと述べました。
AI規制のあり方
AIの進化に対し、人間がどう付き合い、どのような規制が必要か、そして「悪いAI」とは具体的に何かという質問も出ました。
落合氏は「規制は間に合わない」と即答しました。そして、高速道路にAI自動車とAIパトカーが同じスピードで走っているようなものだと例えました。
オードリー氏は、AIを遅くするのではなく、方向付けるためのハンドルが重要と述べました。
そのためには「微分可能な設計」（differentiable design）が必要だと述べました。
o3.icon
“differential…” が登場した主な３シーン
“We don’t want downward acceleration. We want differential acceleration.”
AI の加速を単純に止める／進めるではなく、方向を選別する加速が必要だと定義。
車に例えて「強いエンジン（AI）でも、ハンドルが無ければ崖に落ちる」。ハンドル＝社会制度・倫理。
“two-track, differential acceleration” の具体化
技術を Defensive（社会のレジリエンスを高める） と Offensive（単独で甚大な被害を与え得る） に分け、
Defensive は思い切り前倒しで加速
Offensive は社会が備わるまで意図的に遅らせる
という 差動的タイムラインを提案。
“差動的加速 (differential acceleration) こそ計算民主主義の運転マニュアル”
①社会がハンドルを握る UI/制度
②防御技術を先行加速
③AI の透明化で常時収差チェック
という３点セットを「差動的加速」と総括。
落合氏は「微分」（変化率）の概念を持ち出し、変化だけを見るのではなく、その変化の方向性（微分）を理解することの重要性を説きました。方向性を見なければ、AIで何でもできると思ってしまい、危険な方向へ向かっても気づけないと警鐘を鳴らしました。
合意形成とリーダーシップ
最後に、社会全体の合意形成を進める上でのリーダーシップについて、トップダウン型とボトムアップ型のどちらが効果的かという質問が投げかけられました。
落合氏は、農耕社会や工業社会では、リーダーシップは人々をまとめて予測通りに進めるものでしたが、AI化で社会がマルチエージェント化（人間だけでなく環境なども思考するようになる）すると、物事が瞬時に変化するため、従来とは違うタイプのリーダーシップが必要になると述べました。フラットな関係性で、共感を得ながら方向性を示せるようなリーダーが求められるとのことです。
オードリー氏は、政府の役割として重要なのは、利用者が必要に応じて異なるネットワークやサービス間を自由に移動できる「分岐点」（onramp and offramp）を作るためのトップダウン規制だと述べました。多くのインターネットサービスは一度利用すると抜けにくく（ロックイン効果）、友達やコンテンツを失わずに他のサービスに乗り換えられない場合が多いです。これは高速道路に降り口がない状態に例えられます。携帯電話のMNP（番号ポータビリティ）のように、政府が介入してこのような自由な移動を可能にする制度を整備することが、サービス間の競争を促し、結果的に利用者にとって良い社会につながると考えを示しました。
対談を終えて
落合氏は、人間にとって知性は「おまけ」であるとし、民主主義における「将来どうなりたい」「何をしたい」といった個人の漠然とした欲求を言葉にし、それに繋がる人を選ぶという行為は、人間の知性にとって非常に難しい課題であると述べました。しかし、この難しさはAIにとって意外と簡単なタスクかもしれないとし、AIによって個人の欲求に基づいた政治判断が容易になる未来を示唆しました。現在のユーザーインターフェースや社会制度は不完全であり、AIを活用して人間の集合無意識のようなものを捉える必要があると感じた、と締めくくりました。
オードリー氏は、AIは透明性があり、説明可能な（explainable）設計にすることが重要だと述べました。初期の望遠鏡のように、技術にはノイズやバイアスが伴いますが、技術を改良することで、AIシステムも昨年は幻覚（hallucination）を起こしたが、今年はそれをコントロールできるようになった例を挙げました。AIの能力向上だけでなく、その透明性や説明可能性の向上にも注目すべきであり、それによってAIを社会全体の集合知を映す「鏡」として活用できる日を目指したいと語りました。