AIが自己複製を続けて制御不能になることはあり得るのか？

この研究では、LLMに

- シャットダウン時に自己複製をして逃れる

- 自己複製の連鎖により増え続ける

ように指示して実験を行い、その結果50%以上という高い確率で自己複製が可能なことがわかった。

論文ではこれを脅威として警告している。

https://pbs.twimg.com/media/Gee1RSda0AA93Ub.jpg