茂木健一郎「一番ポイントなのは世界モデル」AIの“味付け”よりも重要な知性の根幹を語る
脳科学者の茂木健一郎氏が、自身のYouTubeチャンネル「茂木健一郎の脳の教養チャンネル」で「人工知能の『世界モデル』と、個々人に対する味付け（RLHF）」と題した動画を公開。生成AIの能力について、その根幹をなす「世界モデル」と、人間が心地よく感じるように調整する「味付け」の二つの側面から解説し、AIの知性の本質はどこにあるのかという持論を展開した。
動画の冒頭で茂木氏は、MITの研究グループが発表した「プロンプトエンジニアリングは論理よりもソーシャルインテリジェンス（社会的知性）だ」という論文を紹介。これを起点に、AIの知性がどのように構築されているかを解説した。茂木氏によれば、AIの基盤には、膨大なデータから世界の構造や論理を学習した「世界モデル」が存在する。これは特定の個人への「忖度」がない、純粋な知性であるという。その上で、人間からのフィードバックによって応答を調整する強化学習（RLHF）が行われる。これがユーザーに合わせた「味付け」であり、ソーシャルインテリジェンスに相当する部分だと説明した。
しかし、茂木氏自身は、この「味付け」の部分にはあまり関心がないと語る。同氏は「人生相談的なとこには僕は全く興味がない」と断言し、AIの真価は、世界の構造を理解する「世界モデル」そのものにあると主張。自身のChatGPTの使い方も、論文の整理や事象の関係性の分析など、その根源的な知性を引き出すことに特化していると明かした。さらに、AIが倫理的で「良い人（ルイージ）」として振る舞うためには、その内部に非倫理的で「悪い人（ワルイージ）」の側面も理解として保持している必要があると指摘。「純粋なルイージはありえない」と述べ、世界の多様性を内包することこそが知性の本質であるとの見方を示した。
最後に茂木氏は、個々人への「味付け」も重要ではあるが、それはあくまで根幹となる「世界モデル」からの分岐に過ぎないと結論付けた。AIの発展を考える上で「一番ポイントなのは世界モデルだ」と繰り返し、その論理的で緻密な知性の部分こそが、今後も追求していくべき核心であると訴えた。
動画の冒頭で茂木氏は、MITの研究グループが発表した「プロンプトエンジニアリングは論理よりもソーシャルインテリジェンス（社会的知性）だ」という論文を紹介。これを起点に、AIの知性がどのように構築されているかを解説した。茂木氏によれば、AIの基盤には、膨大なデータから世界の構造や論理を学習した「世界モデル」が存在する。これは特定の個人への「忖度」がない、純粋な知性であるという。その上で、人間からのフィードバックによって応答を調整する強化学習（RLHF）が行われる。これがユーザーに合わせた「味付け」であり、ソーシャルインテリジェンスに相当する部分だと説明した。
しかし、茂木氏自身は、この「味付け」の部分にはあまり関心がないと語る。同氏は「人生相談的なとこには僕は全く興味がない」と断言し、AIの真価は、世界の構造を理解する「世界モデル」そのものにあると主張。自身のChatGPTの使い方も、論文の整理や事象の関係性の分析など、その根源的な知性を引き出すことに特化していると明かした。さらに、AIが倫理的で「良い人（ルイージ）」として振る舞うためには、その内部に非倫理的で「悪い人（ワルイージ）」の側面も理解として保持している必要があると指摘。「純粋なルイージはありえない」と述べ、世界の多様性を内包することこそが知性の本質であるとの見方を示した。
最後に茂木氏は、個々人への「味付け」も重要ではあるが、それはあくまで根幹となる「世界モデル」からの分岐に過ぎないと結論付けた。AIの発展を考える上で「一番ポイントなのは世界モデルだ」と繰り返し、その論理的で緻密な知性の部分こそが、今後も追求していくべき核心であると訴えた。
YouTubeの動画内容
関連記事
脳科学者が分析する皇室典範改正「社会のジェンダー平等とは分けるべき」
茂木健一郎「単にバランスをとっているだけ」人生を好調・不調で分ける考えを一蹴
「私欲のないおかしさ」こそ感動の理由！茂木健一郎が語る『ドン・キホーテ』の唯一無二の凄み
関連動画（外部リンク）
チャンネル情報
一人ひとりの「個性」が活かせて、「自由」で、「創造的」な生き方ができるように、応援するような発信をしていきたいと思います。複雑な現代を生きるための、科学、社会、本、音楽、映画、文化、芸術、人間、コメディを扱う総合的な脳の教養のチャンネルです。人間の脳のこと、人工知能のこと、創造性のこと、個性のことなどを考えます。
