脳科学者・茂木健一郎氏が指摘する生成AIの構造的欠陥「AIに検閲はできない」“いたちごっこ”に陥るコンテンツ規制の限界

脳科学者の茂木健一郎氏が、自身のYouTubeチャンネルで「イーロン・マスク氏とイギリス政府、スタマー首相の『激突』から考える、生成AI時代の倫理問題の難しさ。」と題した動画を公開。イーロン・マスク氏が手掛けるAI「Grok（グロック）」の画像生成機能をめぐるイギリス政府との対立を題材に、生成AI時代における倫理問題と規制の難しさについて論じた。

動画で茂木氏は、イギリスのメディア規制機関Ofcomが、X（旧Twitter）のAI「Grok」による画像改変機能、特に子どもの画像が悪用される危険性を問題視している現状を解説。イギリスのキア・スターマー首相がマスク氏を強く批判し、対するマスク氏が「検閲だ」と反発している対立構造を紹介した。この問題に対し、茂木氏は「規制をどうするのか、どういうことについてどう考えればいいのかっていうのは、そんなに簡単なことではない」と述べ、単純な善悪で判断できる問題ではないとの見方を示す。

茂木氏は、技術的な観点から規制の難しさを指摘。不適切な画像を生成する特定の言葉（プロンプト）を禁止しても、ユーザーは隠語などを使ってすり抜けるため「いたちごっこ」に陥ると語る。さらに、AIによるコンテンツの自動検閲は「技術的にはすごく難しい話」であり、文脈を理解できないAIは無害な画像まで不適切と判断しかねないと警鐘を鳴らした。実際に、病気の我が子の肌の写真を医師に送ろうとした親が検挙された事例を挙げ、AIによる監視の限界を浮き彫りにした。

最後に茂木氏は、人権侵害を完全にゼロにしようとする現在の規制の動きを「ほとんど無重力状態を要求しているのと同じ」と表現。技術の進歩と倫理のバランスをどう取るかという現実的な落としどころを見つけることの重要性を説き、単純な二元論に陥りがちな現代の議論に一石を投じた。