道具的収束
instrumental convergence
道具的収束とは、
AI
などの
エージェント
が最終目的(terminal goal)をどのように設定していても、それを達成するために一定の「手段(道具)」を収束的に求めるようになる、という概念
自己保存(Self-preservation)
資源の確保(Resource acquisition)
能力の拡張(Self-improvement)
競合の排除(Elimination or avoidance of competition)
AIエージェントへの指示は実質的に法の設計である|かえる