AIが人類の主体性を上書きする
o3.iconボストロムは「超知能」が出現すると 人類の意思決定や価値観が AI に“上書き”される恐れがあると再三警鐘を鳴らしてきた。その回避策として、単一国家の規制ではなく各国が協調して AI の開発・利用を統制する国際ガバナンス体制（条約・監督機関・共有ルールなど）の構築が不可欠だと主張している。 『Superintelligence』以来、AI が“最後の発明”となり得る ――つまり人類の主体的判断よりも AI の判断が優先される世界を作りかねない、と警告してきた。 新著『Deep Utopia』では、仮に AI が病気や貧困を解決したとしても、意味や目的を人間が失うリスクを論じる。 AI 自身が暴走する「整合性（alignment）問題」だけでなく、国家や企業が AI を用いて他国・他者を操作するリスクも重視している。これが“主体性の上書き”を加速させる要因になる。