脳科学者・茂木健一郎が解説、AIの「指数関数的成長」と人間の「線形」な生きがいの決定的な違い

脳科学者の茂木健一郎氏が、YouTubeチャンネル「茂木健一郎の脳の教養チャンネル」にて『人工知能の指数関数的成長がもたらすリスクと、生物や生態系のロバストネス』と題した動画を公開した。動画では、人工知能の急速な進化に対する楽観論と悲観論に触れつつ、自然界の生態系が持つシステムをヒントに、AIと人類の未来について考察している。

茂木氏はまず、AIと人間の関係をめぐる議論として「ブーマー（楽観派）」と「ドゥーマー（悲観派）」の存在を提示する。ブーマーが「誰もが火星旅行に行けるようになる」といった物質的豊かさを信じる一方で、エリーザー・ユドコフスキー氏やネイト・ソアレス氏をはじめとするドゥーマーは、人類が滅亡する確率が高いと主張している。茂木氏は、この悲観論の背景には、レイ・カーツワイル氏のシンギュラリティ論が前提とする「指数関数的成長」があると説明した。

その上で、茂木氏はAIと人間の決定的な違いに言及。「我々の人生や時間、能力、そして生きがいは『線形（リニア）』である」と語り、指数関数的に増大していくAIの能力と、線形な人間の経験を合致（アライン）させることの難しさを説く。

さらに、議論は自然界の生態系へと展開していく。自然界でも特定の病原菌などが一時的に指数関数的な増殖を見せる場合はあるが、最終的にはお互いに抑制し合う「チェックアンドバランス」が働き、特定の種が独占し続ける状態は生じないと指摘。ニック・ボストロム氏の思考実験「ペーパークリップ・マキシマイザー（AIが地球全体をペーパークリップに変えてしまうシナリオ）」を例に挙げ、自然界の抑制と均衡が働く限り、そのような極端な事態は起こらないと語った。

もしAIが暴走するとすれば、それは生物学的なロバストネス（堅牢性）を持たない、人間が作った不完全なシステムだからだと茂木氏は推測する。生態系のようなチェックアンドバランスの機能がAIに備わるかどうかが、人類滅亡のリスクを回避し、AIと共存するための重要な鍵となるだろうと結論付けた。