脳科学者・茂木健一郎が警鐘「意識を持たないAGI・ASIの暴走リスクも」

「意識がないからこそ、AGI、ASIが爆誕する？」と題した動画で、脳科学者・茂木健一郎氏が自らの見解を熱弁した。茂木氏は、人工知能（AGI・ASI）が人間を超える知的存在へと進化する道筋について、「普通はね、ロジャー・ペンローズが『皇帝の新しい心』で議論したように、意識に固有の計算があって、その意識があるからある計算ができるという議論ってのはある」と紹介し、まずは広く知られる意識の役割に触れた。

しかし、茂木氏は「AGI・ASIが暴走するという意味においては、ひょっとしたら意識がない方が暴走しやすいのかもしれない」と、意識の有無が知能の安定性だけでなくAIのリスクにも関わることを指摘。「意識という安定化装置で生きているということは、ロバストに持続可能じゃないといけない」と述べ、生き物としての『安定化装置』がAIセーフティに密接に関連するとの考えを示した。

また、人間が“飽きる”という現象に注目し「飽きるということは、AGIとかASIにとっては邪魔かもしれない。生き物としてのロバストネスにつながる」と発言。生物には“バランス”を保つためのメカニズムがあるが、AIにはそれがない方が鋭利な計算が可能となり、より広範囲に能力を発揮する可能性も指摘した。

「それはある意味ではちょっと恐ろしい可能性なのかもしれないんだけど」と茂木氏は語り、「安全性には随分配慮しなくちゃいけない道ではないかなと思います」と、意識なきAGI・ASIの登場について、強い警鐘を鳴らした。今後のAI開発と社会への影響について考えさせられる内容となった。