AIが悪用させない。ロスアラモス国立研究所とOpenAIが共同研究
AIの脅威より、それを使う人が脅威。
ChatGPTなどのAIを開発・運用するOpenAI社は、現在専門家以外がAIを使って作り出す可能性のある生物学的脅威と戦うために、人工知能をどのように利用できるかをロスアラモス国立研究所と提携して研究しているそうです。
ロスアラモス国立研究所といえば、第二次世界大戦中に原子爆弾開発のためにニューメキシコ州に設立された研究所。この取り組みについて、「AIのバイオセキュリティと研究所における、AIの使用方法に関する初めての研究」であるとしています。
それぞれの声明に大きな違い
OpenAIとロスアラモス研究所が発表した声明には、実は大きな違いがありました。
OpenAIの声明は、このパートナーシップを「生物科学研究を進めるために、研究室環境で科学者が安全に使用できる方法についての研究」としています。
一方でロスアラモス研究所は、 「ChatGPT-4が生物学的脅威の創造につながる可能性のある情報を提供したことを発見した」という事実を強調した発表をしています。
AIがもたらす脅威に関する一般的な議論の多くは「AIが独自の意識を持ち、人類に何らかの害を及ぼす可能性」に集中しています。AGI（高度な一般知能）を実現することで、AIは単なる自動補完機能としてではなく、高度な推論や論理的思考ができるようになり、映画「ターミネーター」に登場する「スカイネット」のように人間に反乱を起こすような状況に陥るのではないかと心配する声もあります。
でも今、緊急に対処すべき脅威は、AI自体よりもAIを悪用する人間のほうで、人々がChatGPTなどのツールを使って生物兵器を作らないようにすることかもしれません。
ロスアラモス研究所は「脅威」を感じている
「AIが可能にする生物学的脅威は重大なリスクをもたらす可能性があるが、既存の研究ではマルチモーダルなフロンティアモデルが、生物学的脅威を作り出す非専門家の参入障壁をどのように下げることができるかは評価されていない」とロスアラモス研究所はウェブサイトで発表した声明の中で述べています。
この声明の違いは、OpenAIが自社AIがテロリストに利用される可能性があることを強調すると、国家安全保障への影響を認めることになるので、それに関して不快感を抱いている可能性があるということが読み取れます。また、さらに細かいことを言うと、ロスアラモスの声明では「脅威」という言葉が5回使われているのに対し、OpenAIの声明では1回しか使われていないんですよね。
ロスアラモスの研究科学者であるErick LeBrun氏は声明で「しかし、生物学的脅威に関連する高度なAIの潜在的な危険性や悪用を測定し理解することは、ほとんど未知の領域です。OpenAIとの共同研究は、現在そして将来のモデルを評価するための枠組みを確立し、AI技術の責任ある開発と配備を保証するための重要な一歩です」と述べています。
米Gizmodoにロスアラモス研究所から送られてきた声明では、潜在的なリスクはあるにせよ、技術の将来についておおむね楽観的なものでした。以下がその声明です。
AI技術は、科学技術における発見と進歩の強力な原動力となるエキサイティングなものです。これは社会にとってプラスに働くことですが、悪意ある者の手に渡れば情報を合成するために使われ、生物学的脅威のノウハウとなる可能性も考えられます。AIそのものが脅威なのではなく、それがどのように悪用されるかが脅威なのだと考えることが重要です。
これまでの評価では、AI技術が正確なノウハウを我々に提供できるかどうかを理解することに重点が置かれてきました。同時に悪意ある者が何か悪質なことをおこなうための正確なノウハウにアクセスできてしまうこともあります。しかし必ずしも情報を得たからと言って実行できるとは限りません。
たとえば、細胞を培養するには無菌状態を維持する必要があること、また質量分析計を使用する必要があることは情報としてわかっても、実際にやった経験がなければそれを達成することは非常に難しいからです。情報へのアクセス（たとえば、正確なプロトコルの作成）は、それが可能な1つの分野ではありますが、AI技術がラボでプロトコルをうまくおこなう方法（または、サッカーボールを蹴ったり、絵を描いたりするような他の実世界の活動）を学習するのをどの程度助けることができるかは、あまり明確ではありません。
私たちの最初の試験的技術評価では、AIが現実世界でのプロトコルの実行方法を学習するのを個人がどのように可能にするかを理解することに注目しています。これは、科学を可能にするのに役立つだけでなく、研究室で悪質な活動を実行するのを可能にするかどうかについても理解を深めることになります。
ちなみに、ロスアラモス研究所の取り組みは、AIリスク技術評価グループによって調整されているとのことです。
