かなり高度なクオリティでやりとりができる対話型チャットボットであるChatGPTの登場などにより、人工知能(AI)の発展と流行は大きく加速しています。そのようなAIの発展にどのような懸念事項があるのかについて、最強の囲碁AI「AlphaGo Zero」やタンパク質の立体構造予測AI「AlphaFold」を開発したことで知られるAI研究グループGoogle DeepMindの共同創設者であるムスタファ・スレイマン氏が語っています。

‘I hope I’m wrong’: the co-founder of DeepMind on how AI threatens to reshape life as we know it | Artificial intelligence (AI) | The Guardian

https://www.theguardian.com/books/2023/sep/02/i-hope-im-wrong-the-co-founder-of-deepmind-on-how-ai-threatens-to-reshape-life-as-we-know-it



スレイマン氏は2019年に当時のDeepMindを退社した後、AIのスタートアップを設立しています。スレイマン氏はAIの開発研究のかたわらAIがもたらす脅威についても主張しており、2023年5月にサンフランシスコで開催されたフォーラムでは「政府はAIに仕事を奪われる人への対応策を考えるべき」とAIがもたらす未来への懸念とそれに対する対策を語っています。

「政府はAIに仕事を奪われる人への対応策を考えるべき」とGoogleに買収されたAI企業・DeepMindの創設者が警告 - GIGAZINE



スレイマン氏は、2023年9月にはAIやその他の急速に発展するテクノロジーが世界秩序にもたらすリスクとそれらへの対処策を語る著書「The Coming Wave」を出版しており、その出版に際してイギリスの大手紙であるThe Guardianがスレイマン氏にインタビューを行っています。

The Guardianの「将来、メンタルヘルスケアをサポートする上でAIが果たす役割をどのように思い描いていますか」という質問に対し、スレイマン氏は「そして、私たちはAIの発展により、AIに様々なサポートや励まし、肯定、コーチング、アドバイスを提供してもらうことができつつあります。私たちは基本的な感情的知性を取り出し、それを抽出したのです。そしてそれは、AIを利用できなかった何百万人もの人々の創造性を解き放つことになると思います」とAIがもたらす可能性について語っています。合わせて、スレイマン氏は「自分のできること、自分自身についての感じ方を後押しすることをAIに期待しています。AIは人との交流や愛の代替になれるものではありませんが、それでも人材の足りない部分を補えると思います。AIは人々が物事を成し遂げるのを助けるツールになるでしょう」と述べています。

しかし一方で、スレイマン氏は著書「The Coming Wave」の中で、AI研究者とマイケル・バスカー氏と協力して、AIの暗い面にも重点を置いています。スレイマン氏は「AIの暗い面について書くのは、心が痛むような作業でした。私は、私の考えが間違っていることを願っています」と語っています。



スレイマン氏はまず、AIがあらゆる目標を達成するための代償を急速に下げると考えられる点を懸念点として挙げています。スレイマン氏はこれを「電力コストの急落」と呼んでおり、AIの驚くべき省力化と問題解決機能は技術を発展させ高速化させる一方で、DNAを解析する装置で致死性のウイルスを作成したり、遺伝子組み換えで非倫理的なアプローチが加速したり、といった危険性があると指摘しています。

こういったAIの特徴が、根本的な豊かさを創出する可能性がある一方で、大惨事をもたらす可能性がある4つの側面をスレイマン氏は主張しています。1つ目は「非対称性効果の可能性」で、AIは何かを達成する障壁を超えさせる力があるため、匿名のハッカーが医療システムのコンピューターをダウンさせようとするような「小規模な攻撃者が大規模な事件を起こす」という可能性が高まります。



また2点目に、スレイマン氏が「超進化」と呼ぶものがあります。AIは設計・製造プロセスを洗練することができるため、新たな反復のたびにさらに改善・強化されていきます。この変化のスピードに追いつき、安全策を確実に講じることは非常に困難になっています。スレイマン氏は「致死的な脅威が発生するときも、誰かがそれを記録する前に出現し、拡散する可能性があります」と述べています。

3点目に、AIが「オムニユース(誰でも何に対しても使用可能)」である点が関係します。電気がほとんどの技術やテクノロジーの根源となっているように、AIもあらゆることを実現するテクノロジーだといえます。AIは私たちの生活のあらゆる側面に利益をもたらしてくれますが、同時に害をもたらす際にもあらゆる側面に作用します。

最後に4点目として、AIテクノロジーの「自律性」をスレイマン氏は懸念点として挙げています。AIは人類の歴史で生まれたテクノロジーの中でもユニークで、自ら意思決定を行う可能性を持っています。これは優れた点で、人間の意思決定より安全である場合もありますが、この自律性が超進化と組み合わさると、AIが自らを成長させて新たな方向へ進み始める可能性が将来的に考えられます。スレイマン氏は「これを懸念するのに大きな想像力は必要ありませんが、特にテクノロジーエリートの間では、AIが自己成長する危険性を無視することが多すぎます」と語っています。



スレイマン氏は「私が常に心がけてきたのは、AGI(汎用人工知能)に倫理と安全の考えを組み込むことです。私は事業計画書にも『すべての人の利益のために、安全かつ倫理的に汎用人工知能を構築する』という使命を明記しており、これが他の多くのAIラボの形成方法を形作ったと思っています。ChatGPTのOpenAIは非営利団体としてスタートしていますが、その主な理由は私たちが設定した基準への反応だと考えています」と述べ、AIに関する取り組みを通してAIの問題に立ち向かう姿勢を示しています。