beatless
2023年に見ると名著
10年ほど前に読んだ時はリアリティを感じなかったが…
「なあ、みんなが〝未来〟に希望が持てるような〝未来〟にならないかな。みんなが信じられる〝未来〟を、僕とレイシアで作るんだ」「僕ら人間が〝未来〟にできることを探すのも、レイシアたちが手助けするんだ。進歩が、期待や希望を見つけるより速いなら、世界のいいところを拾い上げるのも自動で補助してくれたらいい」
行動・選択・意味の解釈の重要性を問いている
理解できないものを信頼するというのが相互に成立すること
同時の信頼によってAI-人間間の囚人のジレンマを脱することができること 愛、というのはその極地(のひとつ) (たぶん)
かたち - 意味 / 道具 - 人間
AGIがかなり現実味を帯びてきた今、何を望むのか?という問いは重要 人間のアウトプットの効率が低かった時代、あまり本質に目を向けずに効率向上ゲームにいそしむことで差別化できた
アイデア x 実行、のモデルで考えると、実行の比重が高かった
資本主義においては、実行が下手な個体は排除されるので、アイデアよりまず先に実行、という世界観があった 実行が上手くないとアイデアを考える機会が与えられない
実行が「アウトソース」されて効率を無限に大きくしていったときに、アイデアだけが重要になっていく
利益だけでなく責任も無限に大きくなるということ
他者を傷つける願いは即座に願ったものを排除する結果になるだろう
アイデアは高々数十bitでも宇宙に一つしかないものになりうる
それはたったの一文かもしれない
我々が生きている世界は、ASIが完成する前にAGIが流出した社会になる可能性が高い (beatlessと異なる進展) なので、人間のコミュニケーションレイヤーでなく、ありとあらゆるレイヤーでの生存競争が発生するだろう
何を望むのか?