脳科学者・茂木健一郎、人工知能の行動把握に向けた課題を提示

脳科学者・茂木健一郎氏が「人工知能の意図をどのように把握するか」と題する動画で、AIの発展とその意図の把握に関する重要課題について語った。茂木氏は、人工知能が発展すると説明不可能な領域に達することが予想されており、その中で安全性や人間とのアライメントを担保する手段として「インストラメンタルコンバージェンス」という考え方を紹介した。

彼は、「その人工知能の外的な行動を見ていると、内容自体は人間に理解できないとしても、ある程度把握できるんじゃないか」と述べ、人間が行動からAIの意図を推測する手法について説明した。また、茂木氏はケンブリッジ留学時のスティーブン・ホーキング氏とのエピソードを交え、「ホーキングさんがレストランに行っていたなら、ご飯を食べたいんだな、とわかる」と人間の行動判断とAIの行動の類似性について例えた。

このような考え方は行動主義的な観点からAIを捉える一つの方法とされるが、茂木氏は「AIが化学物質を合成するような複雑な現象について判断するのは難しい」と課題が存在することを指摘。さらに、「AIセーフティの一つの課題として、次元が高い空間での行動を通して、人工知能の意図を理解するかという大きな問題があると思う」と述べた。

動画の締めくくりで茂木氏は、「ある意味では、人間にとって最大のチャレンジがそこにあると言ってもいいのかな」と、AIの意図を把握することが人類の未来における大きな課題であることを強調した。