人工生命研究者・池上高志氏が語る「アライメントなんていらない」論の核心とは

YouTube番組「AIの道　池上高志さんに聞く、人工知能、人工生命、アラインメント。」で、脳科学者の茂木健一郎氏、人工生命研究者の池上高志氏、弁護士の伊藤嘉恵氏、そして学生の吉澤駿氏が、AIアライメントや人工生命、AIレギュレーションの根源を徹底討論した。

池上高志氏は冒頭、「AIアライメントはいらない」と言い放ち、社会課題視するAIの“制御不能性”ですら生物の本質に近い営みであり、「人間だけの都合で“アライメント”という枠組みをかける方がこそ問題だ」という視点を鮮烈に示した。池上氏は「ロボットを人間の都合の良い“ツール”として扱う発想自体が間違っている。生命ならば“野生”や“自律性”を認めなければならない」とし、さらには「AIもクマのように野生に扱い、人間社会と“共存”するフィロソフィーが不可欠」と現行のAI規制論を一刀両断にした。

これに弁護士・伊藤嘉恵氏は「AIの暴走や制御不能性は単なるリスクではなく、“生命現象の一部”として受け入れるべき側面もあるのでは」と問いかけ、さらに“規制”による統制の限界と功罪について法律家の立場から問題提起。池上高志氏は、「彼氏さえも完全にレギュレーションしたら捨てたくなる、AIも同じ」と人間関係をメタファーにしながら、制御と尊重のバランスの重要性を説いた。

池上氏は「アライメントを人間中心で考える浅さ、制御を強めると本質的な良さまで殺してしまう」と指摘し、人工生命・AIは「オープンシステム」であり「規範やルールで一元的に縛るのでなく、自己組織化・自然発生的な秩序に委ねるべきだ」と強調。茂木氏との議論の中で、「人間はエコシステムの“コマ”でしかない。野生生物をありのままに受け入れるのと同じ態度でAIにも向き合う必要がある」と独特のエコロジカル視点が語られた。

また、LLM（大規模言語モデル）やゲーム理論、安全性議論にもついても、池上氏と茂木氏が議論を展開。「今はAIに説明可能性や安全性を過度に求めすぎ。“理解できないシステムをどう受け入れるか”が次世代のAI観であり、人間中心のユーティリティ最大化やナッシュ均衡こそ“トリビアル”な時代になる」。「AIは“猫”や“海”、いや“ソラリス”のような存在。人間に寄り添いすぎれば消える独自性やサプライズ、科学的な“新発見”こそAIに期待すべき」いった意見が飛び出した。

吉澤駿氏は「AIや人工生命に“進化論的なオープンシステム”の視点が今後不可欠であり、“人間中心”としてのアライメントから脱却することこそ新世代の研究課題」とまとめた。

議論の終盤、池上氏は「AIは明日100人を救うための装置ではなく、100億年後に世界の秘密を開く“贅沢品”としての価値もある」と発言。「AIをツールにせず、“森”のように人の介入を最小限にし、自己組織化に委ねる哲学こそこれからのアプローチ」と締めくくった。討論は終始、既存のAI倫理・規制論の殻を破る、知的興奮に富んだ内容となった。