AIの急速な進歩に加え、自らを改良する「再帰的自己改善」への動きや、複数の自律型AIエージェントの活用が、研究者たちを不安にさせている。大手AI研究所では、制御不能や人類滅亡への懸念が高まっている。