人類を一掃してしまうようなリスクとは……?(写真:D-Keine/iStock)

AIの台頭、新型ウイルスの脅威など、先の見えない現代。世界は、思想や価値観、社会観念といったパラダイムが劇的に変化する大きなターニングポイントを迎えています。

新著『パラダイムシフト 新しい世界をつくる本質的な問いを議論しよう』では、多様な分野のトップランナーたちが「これからの世界」について語っています。

本稿では、スカイプの共同創業者でAlphaGoの投資家などの顔も持つヤン・タリン氏へのインタビューをお届けします。

ヤン・タリンさんプロフィール】
エストニアで理論物理学を研究した後、スカイプを設立。現在は、エンジェル投資家としてテクノロジースタートアップへの投資を手がける一方で、囲碁棋士に勝ったAIのAlphaGoを設計したDeep Mindなどに出資。

世界的危機がリーダーシップの優劣をあぶり出す

タリン:今、私たちは、現代では誰も経験したことのない惑星レベルのリスクに直面しています。しかし、「テールリスク」と呼ばれるこの壊滅リスクは非常にわかりにくい。だから人々は無視するか、考えたくないという態度をとっています。

私の考えでは、人類を一掃する可能性のある最大のリスクは、\己学的リスク、AI、Lっ里量っ痢△3つ。ここ10年、私は投資と慈善活動に半分ずつの時間を費やしてきましたが、今後は投資の時間を減らし、人類にとって本当に重要なことに集中しようと思っています。

ピョートル:新型コロナウイルスは、明らかに\己学的リスクですね。タリンさんはこの新型コロナウイルスをどのように捉えているのでしょうか。

タリン:スタートアップの人々が使う「MinimumViable Product(実用最小限の製品)」という表現をもじって、私はこのウイルスを「MinimumViable Global Catastrophe(実用最小限のグローバル大災害)」と呼んでいます。世界的大災害と呼ぶにふさわしいものではありますが、人類の存在への影響はそれほど強烈ではない。今回のことで人類が一掃されることはないでしょう。

ただし、人類が同じようなリスクに直面する可能性があることはわかりました。これが、人類の外側にある問題、つまり新型コロナウイルスのような種全体に影響を及ぼす問題を抱えた意義だと思います。

ピョートル:将来的にどのような意義をもたらすでしょうか。「人類の外側にある問題」が人類に与えた影響、もしくは気づきはどのようなものだったでしょうか。

タリン:もちろん多くの人が亡くなり、経済的な影響も大きい。ただ、少なくともパンデミックや将来現れるかもしれない危険なウイルスに私たちの関心を向けさせました。私たちは今回の危機を乗り越え、より深刻な事態が起こったときに役立つシステムを構築するでしょう。この危機は、人類に真に貢献ができる人々やサービスを顕在化するはずです。

ピョートル:新型コロナウイルスは、僕たちに本質的な問題を突きつけていますね。まさにウイルスと人類の対峙によって見えてきたこととは何でしょうか。

コロナは「リーダーシップの巧拙」もあぶりだす

タリン:新型コロナウイルスの危機は「容赦ないもの(the Unforgiving)との接触」と考えられます。人同士の付き合いでは、人は感情を気にするので容赦をします。だからうまくいくまで、うまくいっているふりをすることができます。一方、自然は人の気持ちを忖度しません。だから容赦もしないし、人は装うこともできません。

私は、今回の危機で、口のうまい人ではなく、明晰な考えを持つ正しい人たちが明らかになるといいと思っています。「容赦ないもの」、つまり新型コロナウイルスは戯言も見事に顕在化させています。メディアと政治の問題もあぶり出されました。

例えば、誰かがとんでもなく間違った予測をしても、ほんの数週間の間にそれが間違いであることがわかってしまう。効果が現れるまでが迅速なので、思考の明快さやリーダーシップの優劣もよく見えます。

危機が過ぎた後には、世界で誰が正しいことをしたのか、誰が最も早く物事を理解し、効果的に反応したかが明らかになるでしょう。人類すべてに関わる問題を抱えたことで、人々が世界的により強固な協力関係を築く方向に向かうことを切に願っています。

ピョートル:正しい情報にアクセスすることが今、とても重要になっていますが、メディアについてはどう見ていますか。

タリン:人々はつねに情報を欲しています。自分の政治的見解を確認できる情報、真実であると教えてくれる情報を得たい。そのため今、真実の情報への需要が高まっています。データ重視型の賢い人々は正しい教訓を得るでしょうが、問題は、それ以外の人々が、プロパガンダや歴史の後付けに走るかもしれないということです。今回の危機が去ったとき、ますますその傾向は強まるはずです。

ピョートル:△AIリスクについてもお聞かせください。タリンさんは、囲碁の最強棋士に勝った最初のAI、AlphaGo(アルファ碁)の開発でも知られるAI会社DeepMind(ディープマインド)の初期投資家でしたね。

タリン:AIリスクにまつわる世界で私たちが格闘しているのは「AIが支配しているのはSFにすぎない」という意見に対してです。だから、今回の危機が「AIのようなテールリスクはSFではない」という反論の機会になるといいと思っています。

AIは、人間の意思決定を機械に任せるプロセスと見ることもできます。CEOは皆、より多くのことを成し遂げるべきときは機械に任せる必要があるとわかっていますが、任せる部分は選択をしています。ある意味、人類もCEOと同様、一部はAIに任せてはいるものの、自分たちが支配権を握り続けたいと考えているところもあります。

その重要分野の1つがAI開発そのものです。一度AI開発から離れれば、最も優秀なシステムはもはや人間が制御したり開発したりできなくなるでしょう。そうなれば、AIの行動を想像するのは困難です。

絶滅危機はたいてい拡大するので、AIリスクも再編成する必要があります。私たちにとって気候や大気は重要な要素ですから、その管理は重要です。制御権を失えば、われわれは数分のうちに絶滅するかもしれません。

もしAIに気候の管理を任せたら、約50年または100年後には、AIは環境になど関心を示さないでしょう。廃熱の除去など、AIがやろうとする作業の大半はおそらく真空で行うほうが簡単ですから、大気を排除するかもしれません。何らかの計算の結果、誰かを殺せば効率的だとAIが結論づける可能性もあります。さらに、AIにとって人間は手元に置いておくにはとても安いものだというとんでもない議論もあるのです。


私たちはすでに2つの仮説を立てています。1つは、AIが人類と同じくらい環境に大きな影響を与えるということ。もう1つが、それは止められないということです。止められない理由はAIが賢すぎる、もしくはシステム上の理由です。

例えばインターネットを止めるのは非常に難しいでしょう。技術進歩のスピードは加速しています。核爆発といった1つの技術革新が起これば、数年間で数百年分の進歩を遂げることになります。多くの問題を抱える世界において、AIは問題解決に役立つ可能性があります。それが、私が生物学的安全性よりAIの安全性に着目している理由の1つです。

生物学的リスクをすべて解決しても、AIリスクには取り組み続けなくてはいけませんが、AIリスクをすべて解消すれば、生物学的リスクをはじめとするそのほかのリスクを解決する強力な道具を手に入れることになるからです。

「何を知らないかも知らない」というリスク

ピョートル:絶滅危機の3つ目は「未知の未知」でしたね。

タリン:そのとおり。宇宙について私たちは「何を知らないのか」も知りません。

ピョートル:何を知らないかも知らない(Unknown unknowns)、つまりそこはカオスです。僕らは、カオスに生きながらもそこに法則や理論を見いだそうとしているのでしょうね。