「AIの意見は鵜呑みにできない」！山中・羽生、2人の天才がうなずく意外すぎる「AIの限界」
「iPS細胞技術の最前線で何が起こっているのか」、「将棋をはじめとするゲームの棋士たちはなぜ人工知能に負けたのか」…もはや止めることのできない科学の激動は、すでに私たちの暮らしと世界を変貌させつつある。
人間の「価値」が揺らぐこの時代の未来を見通すべく、“ノーベル賞科学者”山中伸弥と“史上最強棋士”羽生善治が語り合う『人間の未来AIの未来』（山中伸弥・羽生善治著）より抜粋してお届けする。
『人間の未来AIの未来』連載第6回
『「AIが人間を事前に逮捕」人間とAIの協力の先に起こりうる衝撃的な「近未来」をノーベル賞科学者・山中伸弥が徹底解説』より続く
意味づけするのは人間の仕事
山中今後、僕たちのような研究者や医師たちの仕事がどう変わっていくのか。たとえば、AIは「こういうことをすればどうか」と研究の方向性まで助言してくれるかもしれないですね。でも、それを実行するかしないかを決めるのは、やっぱり人間です。
羽生AIは無意味なデータを大量に作るんです。ずっと動いてくれるので、将棋の棋譜も何百万局と作ってくれます。では、それが全部参考になるかと言うとそんなことはなく、その中のごく一部がすごく参考になるだけです。だから、それに意味づけとか意義づけしていくのは、やっぱり人間なのかなという気がします。
AIは「抜群に優秀な部下の一人」
山中だから多分、AIって抜群に優秀な部下の一人なんですよ。膨大な知識を持っていて、いつも冷静沈着。感情を交えずに「山中先生、これを選択した場合、このようになる可能性が13パーセント高くなります」（笑）。とても貴重な情報ではあるけれど、あくまでセカンドオピニオンというか、彼は部下の一人であって意思決定者ではない。
それは医療の世界では決定的に重要なことなんです。治療方針を最終的にどうするかは、患者さんと医師が決定するものですからね。たとえば、末期がんの患者さんに対して、AI君は「このがんは、いかなる治療をしても99・99パーセント効果がありません。だから治療は中止して、ターミナルケア（終末期医療）に移行しましょう」と論理的に言ってくるかもしれません。
でも、そういうことがわかった上で、ご本人や家族が「いや、それでもあきらめたくない。最後まで闘いたい」と希望すれば、AI君が何と言おうとも、希望をかなえてあげるべきでしょう。その判断はやっぱり人間にしかできません。
そういう意味で、人間の意思は最後まで必要です。AIが全部決めると、「医療経済的にこの患者の治療は必要ありません」とか「80歳の患者に何千万円を要する治療は割に合いません」と判断しかねません。「いや、それでも治療を続けたい」という希望は考慮すべきです。
羽生そうだと思います。
AIの判断能力の可能性
山中でも、もしかしたらAI君はその辺りも各種データをもとに「理論的に考えるとこうなりますが、この患者の性格と経済力を考慮に入れると、別の選択肢があり得ます」と指示するくらい賢くなってしまうかもしれないですけど。
羽生それには恐らく2つのアプローチがあると思います。一つは何百万人分というビッグデータをもとに「確率的にはこういうふうな選択肢があります」と答えを出すやり方。もう一つは、その人が生きてきた過去のデータを蓄積しておいて、それをもとに「彼はこういう答えを望んでいるはずだ」と答えを出すやり方です。
山中そのときは、判断の根拠となるような、その人の個人データを蓄積しておかなければいけませんね。ランダムに入ってくるデータは蓄積できると思いますが、個々人のデータは個人情報の壁があって、できるかどうかですよね。
羽生そうですね。ただ、今はスマホを操作しているだけで、その人の情報がすべてフリーで「向こう側」に蓄積されています。
山中確かに頼みもしないのに、アマゾンから「あなたにおすすめの本」とか言ってきますから。時々カチンと来ますね（笑）。でも相当賢い部下であるのは間違いない。
『将来は「全人類のゲノムを把握」…科学の常識を“破壊”した「ゲノム解析技術」驚異の最前線』に続く
