Vitalik
tech optimist
私たちの文明の技術のバージョンNが問題を引き起こし、バージョンN+1がそれを解決するということはよくあることだ。しかし、 これは自動的に起こるものではなく、人間の意図的な努力が必要である
AIに対する否定的な見方の多くは、AIを「単なるテクノロジーのひとつ」、つまりソーシャルメディア、暗号化、避妊、電話、飛行機、銃、印刷機、車輪などと同じ一般的な分類に属するものだという観点からきている。これらのものは明らかに社会的に非常に重要なものである。文化を根本的に変え、権力の均衡を変え、以前の秩序に大きく依存していた人々に害を及ぼす。多くの人々が反対した。そしてバランスよく、悲観論者は常に間違っていた。 AIとは、急速に知能を高めている新しいタイプの精神であり、人間の精神的能力を追い越し、地球上の新たな頂点に立つ種になる可能性がある。
https://scrapbox.io/files/6566c6daaae1c20023ff678b.png
Culture』シリーズの主役は、2種類のアクター、すなわち普通の人間と、マインドと呼ばれる超知能AIに占領された遥か未来の星間文明である。医療技術によって人間は理論上は無限に生きられるが、ほとんどの人間は400年程度しか生きられない。
表面的な見方をすれば、人間としての生活は快適で、健康問題にも配慮され、娯楽には多様な選択肢があり、人間とマインドの間には肯定的で相乗的な関係がある。しかし、もっと深く考えてみると、問題がある。マインドが完全に主導権を握っているように見え、物語における人間の役割は、マインドの手先として、マインドの代わりに仕事をこなすことだけなのだ。
ここ数ヶ月、「e/acc(Effective Accelation)」（「効果的加速主義者」）運動が大きな盛り上がりを見せている。ここで「ベフ・ジェゾス」が要約しているように、e/accは基本的に、技術進歩がもたらす真に巨大な恩恵に対する評価と、その恩恵をより早くもたらすためにこのトレンドを加速させたいという願望に基づくものである。 私は、多くの文脈でE/ACCの視点に共感している。FDAが医薬品の承認を遅らせたり、阻止したりすることに関して、あまりにも保守的であるという証拠がたくさんある。一般的に生命倫理は、「医学実験で20人が死んだのは悲劇だが、救命治療が遅れて20万人が死んだのは統計的なことだ」という原則で動いていることがあまりにも多いようだ。コビド検査やワクチン、マラリアワクチンの承認の遅れは、これをさらに裏付けているようだ。しかし、この視点は行き過ぎる可能性がある。
AI関連の懸念に加え、軍事技術に対する e/accの熱意には特にアンビバレントなものを感じる。2023年の現在の状況では、この技術は米国によって作られ、ウクライナを防衛するために直ちに適用される。しかし、より広い視野に立てば、現代の軍事技術を善の力として熱狂することは、支配的な技術大国が、現在も将来も、ほとんどの紛争において確実に善玉の一人になると信じる必要があるように思われる。e/accであるためには、政府の現在と将来のモラルと国の将来の成功の両方にすべてを賭ける、アメリカ最大主義者であることが必要なのだろうか？ 私は、世界を救うために、少数の人々に極端で不透明な権力を与え、彼らがそれを賢く使うことを望むような計画をあまりにも多く目にする。リスクにどう対処するかについての詳細なアイデアを持ちながら、より民主的な世界を作り、維持しようとし、問題解決に中央集権を用いることを避けようとする。この哲学は、AIよりもかなり広い範囲をカバーするものであり、AIのリスク懸念がほとんど杞憂に終わるような世界でも十分に適用できると私は主張したい。私はこの哲学をd/accと呼ぶことにする。 d/acc：ディフェンシブ（またはディセントラリゼーション、またはディファレンシャル）アクセラレーション Defensive (or decentralization, or differential) acceleration
テクノロジーのマクロ的な影響について考える1つの枠組みは、防衛と攻撃のバランスを見ることである。あるテクノロジーは、広い意味で他者を攻撃することを容易にする。つまり、他者の利益に反することを行い、それに対して他者が反応する必要性を感じるようにする。一方、防衛を容易にし、中央集権的な大企業に依存することなく防衛を可能にするものもある 多くの場合、この難問は「自由」という概念が価値を持つ深い理由の一つである。もし誰かがあなたを怒らせるようなことを言ったり、あなたが嫌悪感を抱くようなライフスタイルを送ったりした場合、あなたが感じる苦痛や嫌悪感は現実のものであり、そのようなものにさらされるよりは、物理的に殴られる方がマシだとさえ思うかもしれない。しかし、どのような種類の不快感や嫌悪感が社会的に行動可能であるかについて合意しようとすることは、ある種の変人や嫌な奴が自由な社会で生きるための代償であることを自分自身に思い出させるだけよりも、はるかに多くのコストと危険を伴う可能性がある。 しかし、「ニヤニヤしながら耐える」というアプローチが非現実的な場合もある。そのような場合、防衛技術に目を向ける価値がある。インターネットが安全であればあるほど、人々のプライバシーを侵害したり、個々のハッカーを追及するために怪しげな国際外交戦術を用いたりする必要はなくなる。ツイッターで人をブロックするためのパーソナライズされたツールや、詐欺を検知するためのブラウザ内ツール、誤報と 真実を 見分けるための集団ツールを構築できればできるほど、検閲をめぐって争う必要がなくなる。ワクチンを早く作れば作るほど、超拡散者であることを理由に人々を追及する必要がなくなる。しかし、世界をより防衛的にする技術を構築できる分野では、そうすることに大きな価値がある。 ある技術は防衛に有利であり、促進する価値があるが、他の技術は攻撃に有利であり、抑制されるべきであるというこの核となる考え方は、「技術開発の差異」という別の名前で効果的利他主義の文献に根ざしている。この原則については、2022年にオックスフォード大学の研究者たちが良い説明をしている： https://scrapbox.io/files/65685cfeb9014e00239a63f1.png
核戦争による死者の大半は、最初の放射線や爆風ではなく、サプライチェーンの途絶によってもたらされる可能性が高い
ブロックチェーンは、中央集権的なアクターに依存することなく、「共有ハードディスク」によって経済的・社会的構造を作り上げることを可能にする。暗号通貨は、気まぐれにルールを変更する可能性のある信頼できる第三者に依存することなく、インターネットが普及する前に現金で行っていたように、個人がお金を貯めたり、金融取引を行ったりすることを可能にする ゼロ知識証明はプライバシーのために使うことができ、ユーザーは個人情報を明かすことなく自分自身について証明することができる。例えば、デジタルパスポートの署名をZK-SNARKで包むことで、どの国の国民であるかを明かすことなく、その国のユニークな国民であることを証明することができる。このような技術によって、プライバシーと匿名性という、投票のようなアプリケーションに必要であると広く合意されている特性を維持しながら、セキュリティ保証を得たり、スパムや悪質な行為者と戦うことができる。 AIを開発する世界的な組織を1つにして、そのガバナンスを本当に良いものにしよう」という路線に反対する人々が好む主なアプローチは、多神教的AIである。つまり、多くの人々や企業が多くのAIを開発し、そのどれもが他よりもはるかに強力にならないようにするのだ。そうすれば、AIが超知的になったとしても、私たちは力の均衡を保つことができるという理論だ。 イーサリアムの中での私の経験は、多くの市場が自然独占であることが証明された、より広い世界全体からの学習によって反映されている。人間から独立して行動する超知的なAIでは、状況はさらに不安定になる。再帰的な自己改良のおかげで、最強のAIはあっという間に先を行くかもしれない。いったんAIが人間より強力になれば、物事をバランスに戻す力はない。 e/acc(Effective Accelation)の「あなたは今のままですでにヒーローです」というメッセージは、当然のことながら非常に魅力的だ。d/accのメッセージ、すなわち「あなたは建設し、収益性の高いものを建設すべきだが、あなた自身と人類の繁栄に役立つものを建設していることを確認するために、より選択的かつ意図的になるべきだ」というメッセージは、勝者になれるかもしれない。 これらのテクノロジーは、d/accの原則の優れた例である。ユーザーやコミュニティが、プライバシーを損なうことなく信頼性を検証し、誰が善で誰が悪であるかについての独自の定義を押し付ける中央集権的なチョークポイントに頼ることなく、セキュリティを保護することを可能にする
私たちは建設し、加速する必要がある。しかし、私たちが加速させようとしているものは何なのか？21世紀は人類にとって極めて重要な世紀であり、今後数千年にわたる私たちの運命が決定される世紀かもしれない。逃れられない罠のひとつに陥るのか、それとも自由と主体性を保つ未来への道を見つけるのか。これらは難しい問題だ。しかし私は、その答えを見つけるための私たちの種の壮大な集団的努力を見守り、それに参加することを楽しみにしている。