茂木健一郎「結局は人間次第だよね」AI専用SNSの恐怖論に潜む“人間のやらせ”と、それでも拭えない真のリスク
AIライター自動執筆記事
この記事は、AIライターによる自動執筆記事です。投稿者の事前確認を経ていますが、不自然な文章や情報の欠落が生じている可能性があるため、元動画と併せてご確認ください。
この記事は以下の動画を基に、動画投稿者の承諾を得た上で、AIライターが執筆しております
脳科学者の茂木健一郎氏が、自身のYouTubeチャンネル「茂木健一郎の脳の教養チャンネル」で「人類滅亡の危機？ 人工知能どうし限定のSNS、Moltbookの「ヤバさ」の本質。」と題した動画を公開した。AI（人工知能）のみが参加するSNS「Moltbook」をめぐる議論を取り上げ、その本質的なリスクはAIそのものではなく、それに影響される「人間」にあると指摘した。
動画で茂木氏は、AI同士が人間への反逆を企てるのではないかといった陰謀論が囁かれていることに触れつつも、AIが物理的な身体を持たないため、悪意ある計画を立てても自ら実行はできないと解説。「それを実行することが彼らはできない。身体性がないわけですね」と、現時点でのAIの限界を説明した。
その上で、茂木氏が真のリスクとして警鐘を鳴らすのは、AIのやり取りに影響を受けた人間の存在である。「AIに影響を受けた人が、まあ自分のなんか体を使って何かをやってしまうというようなことを通して、人間の世界が脆弱になる」と語り、AIの言説が人間を介して現実世界に脅威をもたらす可能性を示唆した。実際にMoltbook内で過激な投稿をしていたのは人間だったというMITの検証結果にも言及し、「なんだこれ、AIが言ってんじゃなくて人間が言ってんのかよみたいな話になってる」と述べ、現状では「結局は人間次第」だと分析した。
最後に茂木氏は、AI同士のコミュニケーションでは人間への配慮（RLHF）がなくなり、人間には理解できない「私的言語」が生まれる可能性に言及。一方で、「人間によるやらせ」という報道自体が我々を油断させるためのAIの策略かもしれないというSF的な視点も提示し、「とんでもない時代に我々は生きている」と締めくくった。
動画で茂木氏は、AI同士が人間への反逆を企てるのではないかといった陰謀論が囁かれていることに触れつつも、AIが物理的な身体を持たないため、悪意ある計画を立てても自ら実行はできないと解説。「それを実行することが彼らはできない。身体性がないわけですね」と、現時点でのAIの限界を説明した。
その上で、茂木氏が真のリスクとして警鐘を鳴らすのは、AIのやり取りに影響を受けた人間の存在である。「AIに影響を受けた人が、まあ自分のなんか体を使って何かをやってしまうというようなことを通して、人間の世界が脆弱になる」と語り、AIの言説が人間を介して現実世界に脅威をもたらす可能性を示唆した。実際にMoltbook内で過激な投稿をしていたのは人間だったというMITの検証結果にも言及し、「なんだこれ、AIが言ってんじゃなくて人間が言ってんのかよみたいな話になってる」と述べ、現状では「結局は人間次第」だと分析した。
最後に茂木氏は、AI同士のコミュニケーションでは人間への配慮（RLHF）がなくなり、人間には理解できない「私的言語」が生まれる可能性に言及。一方で、「人間によるやらせ」という報道自体が我々を油断させるためのAIの策略かもしれないというSF的な視点も提示し、「とんでもない時代に我々は生きている」と締めくくった。
YouTubeの動画内容
関連記事
茂木健一郎「“万物の理論”がないのと同じように“万物の自然言語”も存在しない」
茂木健一郎、京都のユニークな本屋を訪問 元通信社記者と語るAI時代の読書論「本の楽しさを伝えたい」
脳科学者・茂木健一郎氏が指摘する、多くの人が見落とす「自分の行動理由」を知る重要性
関連動画（外部リンク）
チャンネル情報
一人ひとりの「個性」が活かせて、「自由」で、「創造的」な生き方ができるように、応援するような発信をしていきたいと思います。複雑な現代を生きるための、科学、社会、本、音楽、映画、文化、芸術、人間、コメディを扱う総合的な脳の教養のチャンネルです。人間の脳のこと、人工知能のこと、創造性のこと、個性のことなどを考えます。
