LIFE3.0――人工知能時代に人間であるということ
https://gyazo.com/0b41920a55ecc54c9382439725dd3ba5
目次
プロローグ オメガチームの物語
最初の数百万ドル/ 危険なゲーム/ 最初の数十億ドル/ 新たなテクノロジー/ 権力掌握/ 統合
第1章 いまもっとも重要な議論へのいざない
複雑さのおおまかな歴史/ 生命の3つの段階/ 論争/ 誤解/ この先の道筋
第2章 物質が知能を持つ
知能とは何か/ 記憶とは何か/ 計算とは何か/ 学習とは何か
第3章 近未来: ブレイクスルー、バグ、法律、兵器、仕事
ブレイクスルー/ バグ VS 堅牢なAI/ 法律/ 兵器/ 仕事と賃金/ 人間レベルの知能
第4章 知能爆発
全体主義/ プロメテウスが世界を支配する/ ゆっくりとした立ち上がりと多極的なシナリオ/ サイボーグとアップロード/ 実際には何が起こるのか
第5章 余波: 1万年先まで
自由論者のユートピア/ 善意の独裁者/ 平等主義者のユートピア/ 門番/ 保護者としての神/ 奴隷としての神/ 征服者/ 後継者/ 動物園の飼育係/ 1984/ 先祖返り/ 自滅 第6章 宇宙からの恵み: 今後10億年とさらにその先
資源を最大限に活用する/ 宇宙への入植によって資源を確保する/ 宇宙のヒエラルキー/ 展望
第7章 目標
物理学: 目標の起源/ 生物学: 目標の進化/ 心理学: 目標の追求とそれに対する反抗/ 工学: 目標を外部に委ねる/ 友好的なAI: 目標を合致させる/ 倫理: 目標を選ぶ/ 究極の目標 第8章 意識
どうでもいい問題なのでは/ 意識とは何か/ 何が問題か/ 意識は科学の範囲を超えているのか/ 意識に関する実験的な手掛かり/ 意識に関するいくつかの理論/ 意識をめぐる論争/ AIの意識は何を感じるか/ 意義
エピローグ FLIチームの物語
FLIの誕生/ プエルトリコでの冒険/ AI安全性研究を主流にする/ アシロマAI原則/ 留意を伴う楽観論
日本語翻訳版は2020年1月発行だが、原著は2017年発行の本
原題は「"Life 3.0: Being Human in the Age of Artificial Intelligence"」
本書のLIFE1.0 ~ 3.0 の定義
LIFE1.0: ハードウェアとソフトウェアを進化させる生命
LIFE2.0: ハードウェアは進化させるが、ソフトウェアのほとんどはデザインできる生命
言語や文化、知識がソフトウェアに相当する。人間
LIFE3.0: ハードウェアとソフトウェアをデザインできる生命
機械生命は、自身のハードウェアもデザインができるようになるだろうという推測 人間も義体などで少しはハードウェアのデザインもできるようになってきている 2023年現在では、このランドスケープの景観もだいぶ様変わりしてきている
「人間を超えるか超えないか」という議論は多いが、そもそも宇宙の広大さから見て人間ってそこまで大したことないんじゃない？という疑問を本を読んでいて感じた
多くの範囲で人間よりも高い性能を習得できることは簡単だろう
狭いスコープの中で競い合って、そこでの勝ち負けの結果がシンギュラリティのような宇宙的なスケールの大きい結果を導くのかは疑問 AIが仕事を奪ったことで得られた富を、奪われた人に回せないと破綻する
AIを使役する人が仕事と一緒に富を奪って独占すると、格差が更に拡大して問題になるだろう
「第5章 余波: 1万年先まで」で示されているいくつかのシナリオが面白い
ユートピア系のシナリオはどれも問題は抱えている
個人的には、「自滅」シナリオが最もありえそう