脳科学者・茂木健一郎、LLM時代に指摘「人間の作り出す文字列こそ自分の鏡」

「大規模言語モデル（LLM）がつくる『空気』の中で私たちは呼吸していく」と題する動画で、脳科学者の茂木健一郎さんが、生成AIが持つ驚異的な能力と、しかしそれが生む違和感について持論を展開した。

茂木氏はまず、「大規模言語モデルの能力は、ものすごいものになっていて、大量の情報を読んで、それを要約するみたいなことについては、本当に、人間がおよばないような領域に来ている」とその進化を評価。だが一方で、「大規模言語モデルが作る文章って、ちょっと変なところがあるという感じは依然としていて」「人間の住んでいる世界における自然言語とは違う」と警鐘を鳴らす。その理由について茂木氏は、「人間が自分で作り出すものっていうのは、自分を表しているわけですから、結局、人間の作り出す文字列っていうのは、自分の鏡なんだよね。大規模言語モデルは、鏡ではないんだよね」と語った。

さらにLLMが出力する文章について、「ものすごい数の量の文章を背景に、統計的に最適化されたものなわけだよね」「それは鏡なんだけど、人類全体を映す鏡なんですよ。変な鏡なんだよね。万華鏡のように、いろんな角度から乱反射して戻ってくる」と独自の表現で、その“不自然さ”を指摘している。

実際の教育現場でも、茂木氏は「先生側としては、出されてきた文章が大規模言語モデルを使っているだろうと前提で読むんだけど、それが何を読んだのかって、よく分かんない」「その人の文章だったらその人のことが分かるけど、統計的学習をして出てきた文章には、何を読んでんのかがよく分からない」とし、AI生成文と人間独自の個性を持つ文章の差異を実感していると明かした。

動画の最後で茂木氏は、「地球上に酸素が現れたときに、我々が酸素呼吸に適応したのと同じように、大規模言語モデルが作り出す“統計的な空気”の中で、我々はこれから生きていくしかない」「やっぱりその中で、自分の欠点とか個性を表現した、自分の言葉っていうのを大事にしたいな」と、自分自身の言葉・個性を大切にする大切さを強調した。