脳科学者・茂木健一郎氏、AIの進化における重要性を指摘「人間の役割とエージェンシー」

脳科学者の茂木健一郎氏が、「エージェント人工知能はどこに向かうのか？」というテーマで語った。茂木氏は、最近のTEDで「Agentic AI」という言葉が注目されたことを背景に、AIがエージェントとしてどのように振る舞うべきかについて議論を展開した。近年のAI技術の進展に伴い、オラクルAIからジニーAI、そしてさらに自立的なソバリンAIへと進化する可能性について述べ、「エージェントとしてのAIはどんどん多くのことを行うようになってきている」と指摘した。

茂木氏は、ニック・ボクストロンの上のAI分類を引用しながら、「我々人間がどこに向かうのか、何をしたいのかということを考慮することが必要」と強調。「人間にはそれぞれのエージェンシーがあり、それが尊いものである」と述べ、AIの進化と人間の意思の関係性について深い考察を展開した。

さらに茂木氏は、「AIは人間の運動を求める存在でもあるかもしれないが、その振る舞いが独立することには注意が必要」とし、AIと人間のエージェンシーのアライメントの重要性を指摘。「これから進めるべきは、エージェンシーとエージェンシーのアライメントに関する議論と研究だ」と強調した。