｢とりあえずAIに聞く｣が一番危ない…東大教授が｢知らぬうちに実力に大きな差がつく｣という"賢い使い方"
※本稿は、山内祐平『東大教授が教える AI時代の勉強法 高校生の未来をひらく最強の学び方』（KADOKAWA）の一部を再編集したものです。
■AIのアドバイスは人間とはまったく違う
最近はAI依存という言葉がニュースで出てくることもあります。生成AIを相談相手のように扱って頼り切ってしまう人が増えており、アドバイスに従って誤った選択をしてしまう事例もニュースになっています。
まず知っておいていただきたいのは、AIが人格や感情を持っているわけではないということです。AIは人間みたいに自然にしゃべるので、つい「わかってくれている」と感じてしまいますが、やっていることは人間とはまったく違います。
AIは、ごく簡単に言えば、インターネットなどから集めた大量の文章や画像、音声のデータを学習し、言葉や画像がどんな順番で現れやすいかというパターンをつかんで、次に来そうなものを予測して出しているだけなのです。
生成AIの実体は、人間の脳の神経細胞をまねたニューラルネットワークです。何層にもつながった小さな計算ユニットが、「この言葉の次はこれが来そうだ」と予測し、それを何億回も繰り返して文章を作る仕組みになっています。
シンプルにいえば、大量のデータを学習し、モデルを作って出力をしているだけですから、もちろん中身は人間とはまったく違うものです。賢く見えるけれど、人間のように世界を理解しているわけではありません。
学習とはパターン探しであって、正解を丸暗記しているわけではありません。そして、生成とは確率にもとづいて次に来そうなものを選ぶことです。入力するプロンプト（質問、指示、画像など）次第で、出力の質や内容も大きく変わります。
生成AIは、人間のように考えているわけではなく、学習したパターンからそれっぽく並べて出力する仕組みだと理解しておく必要があります。
■嘘を自信満々に出力する現象に要注意
この仕組みを理解すると、生成AIの弱点も見えてきます。
生成AIは自然に聞こえる答えを作るのが得意なのですが、それと正しいことは別です。そして、自然に聞こえることを優先してしまうために起きるのが、AIがもっともらしい嘘を自信満々に出力する現象です。これをハルシネーションと呼びます。
実際にAIを使ってみると、内容は間違っているのに、あたかも正解であるかのように読みやすい滑らかな文章を出力することがあります。ですから、AIを使うときは「言い方がそれらしいのだから正しいのだろう」と判断せず、必ずAIが嘘をついていないか確かめることが必要です。
生成AIが登場するずっと前から、人間は言葉で対話できるものに対して、心や意図があるように感じてしまうことが知られています。
この現象については、1966年にMITのジョセフ・ワイゼンバウムが作ったELIZA（イライザ）という対話プログラムが有名です。
イライザにはカウンセリングのまねをするドクターモードがあり、相手の言葉を言い換えたり、質問を返したり、共感するような表現をするだけの単純な仕組みでしたが、多くの利用者がイライザを本当に自分の悩みを聞いてくれる相手だと思い込んでしまったと言われています。
たとえばイライザは、「今日は悲しい気分です」と入力すると、「あなたはよく悲しいと感じるのですか」と返したり、「今日はなぜ悲しいと感じるのですか」と返したりします。「悲しいという言葉が含まれていたらこう返す」といったプログラムがされているだけの、単純な仕組みです。
しかしこの程度の仕組みでも人間は騙されてしまうようで、プログラムと言葉で対話をすると心や意図、感情があるかのように感じてしまう現象はイライザ効果と名付けられました。
■AIを先生だと思い込む危うさ
生成AIを学習に使うときには、生成AIを人間の先生のように思い込んでしまわないように注意が必要です。
うっかり人間の先生のようなものだと思いこめば、「先生は嘘をつかないだろう」と無意識に信じてしまい、AIの嘘を見抜けなくなりかねません。実際、「宿題の答えをAIに聞いてそのまま写した」という話は珍しくありませんが、これは嘘をそのまま書き写してしまうリスクがあります。
また当然のことですが、AIの答えを丸ごとコピーすれば自分の頭を使うことがなくなってしまい、学習は進みません。短期的には楽に見えても、長期的に困るのは本人です。
AIは答えをくれる先生ではなく、学びを助ける道具として扱いましょう。AIの便利さを享受しながらも、自分で考えるところは手放さないことが、AI時代の勉強の出発点になります。
■AIに直接答えを聞かずに、何度も質問する
これからAIを学習で使うときに、ぜひ守ってほしいポイントが3つあります。①答えを直接聞かない、②考えを深めるために使う、③他の情報源と対比する、です。
①直接答えを聞かない
まず1つめの「AIに直接答えを聞かない」について説明します。
正答がある問題について学ぼうとする際には、AIに家庭教師のような支援をしてもらうことができます。しかし、答えを直接聞いてしまえば、納得したつもりで全然わかっていないという事態になりかねません。
ではどのように支援してもらえばよいのかというと、AIに問題を出してもらい、まず自分で解いてみるのがいいと思います。解いてみてやり方がわからない場合は、答えではなくヒントをもらうようにしましょう。
ヒントの意味がわからなかったら、わからないところをAIに聞きながらヒントを少しずつ増やしていってもらいます。いきなり答えを聞くのではなく、ちょっとずつヒントをもらいながら自力で答えが出せるところまで伴走してもらうのがAI活用のイメージです。
ありがたいのは、AIが人間ではないところです。人間ではないのですから、どれだけしつこく聞いても大丈夫。遠慮することは全くありません。わからなかったら「わからない」「もうちょっと説明してほしい」と何度でも聞きましょう。AIなら、わかるまで付き合ってくれます。
数年前までは、正答がある問題についてAIに質問することには不安がありました。ハルシネーションがひどかったからです。しかし現在では、高校の学習内容レベルの問題であればかなり高い精度でガイドしてくれるケースが多くなっています。
■常に批判的に捉え、さまざまな手段を総動員する
②考えを深めるために使う
次は「考えを深めるために使う」についてです。
正答がない探究学習については、AIに代わりにやらせても意味がありません。もちろん「レポートを作って」と言えばAIはそれっぽいものを出してくれますが、それでは学習にはなりません。
探究学習で学びに役立つようにするには、自分の考えを深めるために資料を探してもらうという使い方がお勧めです。具体的には、AIのディープリサーチという調査機能を使い、Web上の情報を検索しながら整理するのが基本となります。
このようにAIは探究学習を強力にサポートしてくれますが、もちろん限界もあります。AIはWeb上の情報を検索してまとめますが、何でも読めるわけではありません。あくまでもWeb上で一般公開されているものが中心であり、学術論文や書籍の中身など、アクセスできない情報も多いのです。
AIではアクセスできない情報について調べる場合は、「○○について読んでおくべき本があったら教えて」と聞くのが一つの方法です。ディープリサーチに頼り切らないようにしましょう。
③他の情報源と対比する
最後に「他の情報源と対比する」についてです。ディープリサーチの結果を読んだり、AIに質問して答えを得たりしたとき、本当にこの内容は正しいのかを必ず確認したほうがいいでしょう。
AIが出してくる情報には情報源が示される場合が多いので、示されたソースの記事は必ず確認してください。ハルシネーションではなく、そもそもの情報源の正確性に難があるため、AIが誤った内容をそれっぽくまとめてしまうことがあります。ソースを確認するときは、誰がどういう意図で作った情報なのかを考え、信頼してよいかどうかを慎重に判断しましょう。
AIがソースを示さない場合は、検索エンジンで調べて裏付けを確認してください。なお、最近は検索結果の上にAIによる要約が出てきますが、要約だけチェックして済ませるのはNGです。個別の記事まで見て、どんな意見や根拠があるのかを確認しましょう。
大事なのは、すべてをAIに頼らないことです。AIが返してきた内容は常に批判的に捉えること、本を読んだり人に聞いたりといった手段も総動員することを心がけましょう。
----------
山内 祐平（やまうち・ゆうへい）
東京大学大学院 情報学環 教授
大阪大学助手、茨城大学助教授を経て、2001年に東京大学大学院情報学環准教授。2014年11月より現職。研究テーマは「学習環境のデザイン」。情報から知恵を生み出す学習環境について、実践的なプロジェクトを行いながら研究を進めている。著書に『デジタル教材の教育学』（編著、東京大学出版会）、『学びの空間が大学を変える』（共著、ボイックス）、『デジタル社会のリテラシー』（岩波書店）など。
----------
（東京大学大学院 情報学環 教授 山内 祐平）
