茂木健一郎脳科学者「AI安全性も顧客創造も“人間をループに入れる”ことが本質」

脳科学者・茂木健一郎氏が、自身のYouTubeチャンネルで「人工知能に対して、人間をループにいれることの意味」と題した動画を公開。動画内で茂木氏は、AIの進化が著しい現代において「キープヒューマンインザループ」、つまり“人間をAIのループに入れる”ことの重要性について語った。

茂木氏はまず、「AIアライメントの原理としてとても重要なのは、人間が最終的にチェックすることだ」と、AIの安全性や信頼性の観点から強調。「自動運転にしても、途中で目的地を変えるなど人間が介入できる仕組みが不可欠」と述べ、「これが“キープヒューマンインザループ”である」と分かりやすく説明した。

さらに、生成AIについても言及し、「プロンプトエンジニアリングのように、人間が生成のどこかのプロセスに関わることが大切」と呼びかける。一方で、視点を変えてドラッカーの「ビジネスパーパス」の概念にも触れ、「AIがいかに進歩しても、最終的な目標は人間の需要、幸福に応えることにある」「人間を顧客として創造し、それを維持する──これこそが“キープヒューマンインザループ”のもう一つの意味」と力説した。

茂木氏は「AIが生産してAIが消費する世界も理論上は考えられるが、『常識的には人間がループに入っているべき』」と現状のAI利用に警鐘を鳴らす。「AIセーフティやアライメントの観点と、人間を顧客として作るという経済原理──この2つの意味が“人間をループに入れる”ことには含まれている」と分析した。

最後に茂木氏は「この考え方に特化することで、我々はAIアライメントの設計をより良いものにできる」と動画を締めくくり、今後のAI活用のあるべき姿を提言した。