なめらかな社会
民主主義における政治においては、敵がつくられることが運命づけられている 多様性や複雑性を残しながら、二項対立を産まないような社会
「なめらかな社会」という言葉で私が考えたい問題は二項対立のない社会はいかにして成立するのか、ふたつ以上の異なる考え方が、いかにして共存できるかということです。しかも、両者が孤立したまま併存するのではなくて、複数のものを抱え込んだ中間的な状態を許容し、それが時間のなかで変化していく。そんな共存の仕方です。たとえば、国籍の場合、誰もが日本人からアメリカ人に変わることができ、その度合いについても変容しうるということです。家族や会社への所属についても、同様ですね。これはさまざまな境界線をすべてなくし、のっぺりしたフラットな世界にしてしまおうというものではありません。フラットな世界には多様性も複雑性もありません。もともと私の着想は、細胞膜のような複雑な半透膜がモチーフです。半透膜は、ある成分をもった物質は通すけれども、また別のものは通さないという動的かつ複数的な仕組みをもっています。また、細胞そのものも生命ですが、それが合わさった多細胞生物もひとつの生命です。そうした生命システムのような特徴を、社会システムにもたせることができないか。それが私の考える「なめらかな社会」です。 このような不自由を解消することがいかにしていかにして可能かというのが、私の最大の関心事です。この本のタイトルには「敵」という言葉が含まれていますよね。これはカール・シュミットの友敵理論のことです。シュミットは、敵と味方を二元論的に分けることこそが政治の本質であると考えます。それとは反対に、私は友と敵の区別を解消できるような社会システムを提案したいというわけです。 まさにそうだと思います。整理すれば、私は「なめらかな社会」がいまだ実現していない理由は3つあると考えています。まず、認知限界の問題です。人間の脳のキャパシティには限界があり、中間的で複雑な状態を理解することは困難です。ただ、これについてはコンピュータや情報技術の発展によってある程度克服できるでしょう。むしろ、克服できた程度にしか社会は複雑化できないといったほうが正確かもしれません。次に、アイデンティティの問題です。人間には、自分より大きなものに所属し、一体化したいという欲求をもっています。それによって生きがいや人生の意味を感じる生き物であって、複数の所属を自分でコントロールできるほうが幸せだと必ずしも感じるわけではありません。最後に、生存と安全の問題です。これは先ほど挙げた戦争の問題に近いですね。市民生活を守るためには、さしあたり暴力を合法的に独占した既存の国民国家を維持せざるをえないだろうということです。2つ目と3つ目の問題は、大屋さんが言うように、政治の領域でもありますよね。 少し時系列で考えてみたいと思います。現代社会を考えるうえで区切りとなる年号として、私は1989年を重要な年だと位置づけています。これはベルリンの壁が崩壊した年であるとともに、ティム・バーナーズ・リーがWorldWideWebの構想を提案した年でもあります──士郎正宗の《攻殻機動隊》の雑誌連載が始まったのもこの年ですね。ベルリンの壁が崩壊したとき、自分自身がドイツに住んでいたこともあって、この出来事からは大きな影響を受けました。 では、それから2024年現在までの35年間でなにが大きく変化し、なにが変わらなかったのでしょうか。冷戦終結以降、世界経済のグローバル化が進行し経済は国境を超え、インターネットも発展して情報も国境を超えました。この数十年で、経済も情報も国境を超えることは当たり前になりました。これは劇的と言ってもいいほどの変化です。
これに対して、政治はどうでしょうか。ソ連崩壊とともにロシアや東欧の国々は民主化しましたが、その後の経過をみると、民主主義はむしろ退潮しているとすら言えると思います。実際、V-Dem研究所が発表する世界の民主主義指数は冷戦時代並みに低下しているのです。 鈴木 「保護」という言葉は重要ですよね。トマス・ホッブズの社会契約論によれば、国家と国民の関係は、国民の服従と引き換えに国家が保護を提供するという社会契約に基づいています。この保護というのは、身体の安全から財産権、社会保障、教育といったものです。反対に服従というのは、納税や法律の順守ですよね。裏を返せば、この交換関係が成立しなくなると契約の存続が怪しくなって、クーデターや内戦といったリスクが高まります。 政治学者のバーバラ・F・ウォルターが書いた、『アメリカは内戦に向かうのか』（井坂康志訳、東洋経済新報社、2023年）という興味深い本があります。本書のなかでウォルターらは、国の民主化の度合いをスコア化し、それと内戦発生リスクの関係を統計的に分析しています。興味深いのは、完全な民主主義政体を+10として、完全な専制主義政体を-10としたとき、この中間にあたる-5から+5までのスコアが最も内戦のリスクが高いというのです。つまり、民主主義国や権威主義国は安定しているが、移行期の国は不安定になりやすいというわけです。アメリカの場合、かつては民主主義度が最高値の+10でしたが、最新のスコアでは+5と下がっており、リスク領域に入っている。アメリカでは武器の所持も認められているため、内戦リスクが現実化する可能性があると危惧されています。ウクライナとロシアによる戦争のように、国家に対するアイデンティやロイヤリティが強まる動きもありますが、その一方で、国内の分断が強まる動きにも着目する必要があるのです。 変興味深いですね。似た話で言うと、2010年頃にイギリスの経済学者ポール・コリアーは、アフリカの混乱した社会において、デモクラシーファーストをやるか、セキュリティファーストをやるかによって、国家の命運が分かれていったと論じました。コリアーの結論は、セキュリティファーストこそが重要だということです。アフリカではデモクラシーファーストをやると、選挙で負けた側が外敵を呼び込んで社会を崩壊させてしまうというんですね。この研究は欧米では大変評判が悪かったのですが、日本の開発経済学者は当然のことだという反応をしました。韓国や台湾の成功をみればわかるように、開発独裁を進めてから自由化すればうまくいくという事例を知っているからです。 このセキュリティファーストという考え方は、すでに民主主義が実現した国においても重要だと思っています。アメリカの民主主義の危機も、政府がセキュリティを維持できていないことに起因しているからです。具体的には、トランプ大統領の当選は、白人貧困層の不満に訴えたことによるわけですよね。日本の場合は、相対的に言えばセキュリティが保たれているので、危機が爆発的に広がる可能性は低いと思いますが。
経済学者のウィリアム・イースタリーが『傲慢な援助』（小浜裕久・織井啓介・冨田陽子訳、東洋経済新報社、2009年）で指摘したのもその問題です。アフリカの一部の国だと、統治階層はスイスの国際学校で教育を受けていたりして自国民との一体感をもっておらず、それが自国民の窮状に目を向けず国際支援を私物化することにつながっているというのです。 では国境線そのものをなくしてしまえばよいかというと、それもよくわからない。たとえば、政治哲学者のロバート・グッディンが展開する割り当て責任論は、国境の必要性を正当化する議論のひとつです。グッディンの議論では、国境を設けることで、国内の問題に対する第一義的な責任を負う主体を特定できるとしています。単純に言えば、近くで火事が起こっているときに、その地域の責任者が誰かがわかっていれば行動しやすいし、反対に責任が割り当られていないと誰も行動しなくなってしまうだろうというわけです。ただし、この議論は国境線の存在そのものを正当化するものであって、現状の国境線を正当化するものではありませんが。 基本的には、同じ認識をもっています。グッディンが言うように、国境のような境界線によって自分たちのことを自分たちで決めるという発想が出てくるというのは、近代という観点からするとたしかに素晴らしい。しかし、大屋さんが指摘するように、いまやそれだけではうまくいかない事態が生じているわけです。 では、境界線に縛り付けられない自由を享受しながら、同時に、それぞれの地域ごとの自治を尊重する。そんな「なめらかな社会」は、どのようにすれば可能になるでしょうか。私が思うに、地域への帰属意識や責任の度合いを動的にコントロールできればよいと思うのです。それぞれの実態に応じて責任を割り当てることができれば、単純な白黒をつけなくとも、それぞれのコミットメントを促すことが可能になるはずです。たとえば、国境を超えて自動車の走行距離に応じて課税をおこなうEUのような仕組みは、現実に存在するものとしては参考になるかもしれません。 意思決定やそれに伴う責任を動的に配分するというアイデアに関心をもつ人はグローバルにも増えてきています。たとえば、注目すべきもののひとつとして、「ラディカルエクスチェンジ」という運動があります。イーサリアムの創設者であるヴィタリック・ブテリンや、台湾でデジタル政策を進めるオードリー・タン、経済学者のグレン・ワイル Glen weylらが中心となっているものです。あるテーマに対してより強い選好を持つ人々の意見がより強く政策に反映されるようにしながらも政治経済学的な公平性を維持する方法として、1人の人が2票投票するためには4クレジット、3票投票するためには9クレジットを支払うという新しい投票システム「クアドラティック・ボーティング」や、それを資源配分に応用した「クアドラティック・ファンディング」といった方法が提案されています。これらはブロックチェーン技術の進展を背景に現れたものですが、その理論的背景には柄谷行人の交換様式論があるそうで、その点も興味深いですね。彼らが最近提唱しはじめたPluralityという概念は、私の提案した「なめらかな社会」の構想とも近いところがあると思います。 がんの検知では、すでにAIのほうが医師よりも高い検知率を示すといった話がありますよね。AIの診断を医師が覆したけれども、実際にはAIのほうが正しくて、結果的に患者が亡くなってしまうといったことも起こりえます。AIと人間の判断能力に著しい差ができてしまうと、もはや人間が意思決定をおこなうべきかどうか怪しくなりますよね。これでは、遣唐使の船に乗って無事を祈る祈祷師が、嵐に遭遇したときに責任を取らされることと変わらなくなってしまいます。人間はシステムが正常に働くことを祈るほかなくなるのかもしれません。そうだとしたら、そもそも責任という概念や、その根拠になりうる権利主体のあり方から問い直さなければならなくなりますよね。
主権論や人権論の問題に遡って議論しなければなりません。人間がAIの決定に対してどこまで関与するべきか、あるいはAIが人間の決定に対してどのように関与するべきかどうかというのは、主権や人権が守られる限り、あるいは最大に尊重される限りにおいて正当化されるだろうということだろうと思います。行政、立法、司法の三権のすべてにおいて、AIの利用は進んでいくでしょう。特に行政はAI化するメリットが一番大きい。しかし、司法と立法の段になると法学的な意味における最終審級において人間を登場しなければならない理由がでてきます。なぜなら、主権論や人権論からみたときに、すべてをAIに決めてもらうというのは論理破綻をもたらす可能性があるからです。一方で、主権論や人権論自体がアップデートされ、人間中心主義が見直される契機にもなるかもしれません。人権を至上の目的関数とすること自体を問い直す必要がでてきます。 現在の多くのAIはもともと最適化問題を解くために設計されているため、単一の目的関数をもっています。そのため、あらかじめ設定された目的関数を極端に追求してしまうという危険性があります。わかりやすく言えば、AIに地球温暖化対策という目的を与えたら、人類を滅ぼしたほうがよいという選択をしてしまうかもしれないということをディープ・ラーニングの父ともいわれるジェフリー・ヒントンは例示しています。
これに対して、人間の知性は複数の目的関数を自然ともっています。人間がチェスをプレイする場合、ただ勝つことだけではなくて、相手を尊重したり、プレイスタイルや見栄えを大切にしたり、いろいろなことを考えますよね。ちょっと接待麻雀のような例になってしまいますが、こういうのはAIは明示的に目的関数を設定しないとできない。これは生命システムが本質的にはホメオスタシス（恒常性）という性質を持っていて、ひとつの目的関数が極端に走ると、別のパラメーターが調整されてそれを抑制することができるからです。生命システムが、多くの人工知能研究者が想定するよりもはるかに複雑なことをしているのは、ホメオスタシスがないシステムは終末が訪れるからです。それによって、あるシステムが成立するための見えない前提を破壊してしまうことを未然に防いでいるのですが、重要なことは、この目的関数は単一のレイヤーで複数設定されているのではなく、複数のレイヤーで動的に再調整され続けている極めてなめらかなシステムであるということです。つまり、人間の個体単体での目的関数が複数あるという単純な話だけではなく、人間を構成する器官や細胞レベル、共生している細菌などの微生物、生態系など複数のレイヤーにまたがるのです。
これに対して、近代以降の国民国家においては、人権概念が至上のものとされ、あらゆるものがその手段とされてしまいます。人権概念は、現代社会における究極の目的関数として設定されてしまっているのです。人権概念そのもののアップデートするという発想は、「なめらかな社会とその敵」の中でも触れられていますが、人間に似せる知能としての人間を超える知能をもつAIの登場は、2つの意味で人権概念に揺さぶりをかけるでしょう。
人工知能学会に参加したとき、美術家の中ザワヒデキさんがこういう話をしていました。ある時期までのアートは実物を精密に描写することが目的関数として設定されていたけれども、写真の発明によってその目的は技術的に達成されてしまった。そこでアーティストは新たな目的関数を提示するようになり、印象派のように対象の印象を表現したり、特定の出来事から受けた衝撃を描いたりするようになった。つまり、アートというのは目的関数を書き換える営みになったのだというわけですね。現代アートにおいてはとりわけそうで、新しい目的関数を提示し、人々の認識を変えることが常に求められている。そしてこの意味において、AIはまだまだ途上であると中ザワさんは言っていました。 ちなみに、シルバーデモクラシーについては、批判されることが多いですが、これだけ技術進化が激しい時代においては、それはそれで悪くないかもしれないと少し思っています。というのも、いまは技術の変化にともなって、社会の変化が速くなりすぎているからです。一方で、それに耐えられるような社会システムの技術的なアップデートは本質的に起きていないままです。もちろん領域にもよりますが、全体としては民主主義が保守的で予測可能性の高いものになったほうが、社会システムはより安定するのではないかなと思います。それでもいじゃないかという人がいるかもしれませんが、現在の加速的なイノベーションを生み出している、スタートアップやベンチャーキャピタル、大学や自由な論文アクセス等のエコシステムも破壊される可能性があります。 その意味で、自分はいわゆる技術加速主義の潮流には賛成しませんね。原子爆弾を開発したロバート・オッペンハイマーのように、後悔したくはないですから。当時でさえ、現在でさえ、核兵器もとにした安定した社会秩序の社会システムデザインは、ゲーム理論に基づいた相互確証破壊の概念に留まっているわけです。結果として核兵器後の世界史で起きていることは、大国の代理戦争と核不拡散スキームの成立とそのほころびです。社会システムの統治技術がアップデートされないと、こういうことが起きるわけです。現実に即して言っても、OpenAI社はあと10年で人間の知能を超えるAGI(汎用人工知能)が登場すると予測していますが、そもそも社会のほうはそんなことが起きた後に備える準備ができているんでしょうか。人間の認知限界を超えた速度で変化を起こしても、社会側の適応がとてもうまくいくとは思えません。むしろ、変化の速度を減速させる方法を真剣に考えなければならない時代になっていると思います。エドマンド・バークの保守主義のようですが。 あくまでも『なめらかな社会とその敵』は、300年後を見据えて書いた本ですからね（笑）。そうは言っても、ただ待っているだけではありません。具体的には公共財、そのなかでも準公共財に注目していて、なにかプロジェクトをつくりたいと考えています。国や地方自治体といった公的機関は、法律を変更しない限り大きな変革は難しいですが、大規模な集合住宅や駐車場、ゴルフ場、公園といった準公共財の領域では、民間からのアプローチも可能です。そうした領域において、新しい自治の仕組みや、そのなかで機能する新しいクレジットや貨幣のシステムといったオルタナティブを実験したいと考えています。「なめらかな社会」へと無理なく移行するために、民主主義の小さな実験を繰り返していきたいと思います。 総じて言えることは、技術進化の速度がはるかに早く、なめらかになる前に社会が壊れるリスクがあるということです。逆にいえば、なめらかな社会をつくるための社会技術的チャレンジも急ぐ必要がでてきています。多くの議論において、社会と技術は対立的に描かれますよね。しかし、社会制度や統治機構もある種の技術であるということを忘れてはなりません。つまり、技術の中で進化の速い部分（インターネットやAIなど）と遅い部分（社会技術）があって、そこにずれやコンフリクトが起きていると考えた方が自然なのです。私たちは、社会的技術をアップデートする研究にもっと注目して投資をしなければ、どんなに素晴らしい技術がでてきても、社会はそれを受け入れることはできないでしょう。どんなにパワーのあるエンジンができても、空力を考慮したボディのデザインがなければ、結果として車のスピードがでないのと同じなのです。最後に一言、タチコマかわいいですよね。