Googleが自社のウェブサイトから、兵器や監視用のAIを開発しないという誓約を削除したと、アメリカ経済紙のBloombergが報じています。

Google Removes Language on Weapons From Public AI Principles (GOOGL) - Bloomberg

https://www.bloomberg.com/news/articles/2025-02-04/google-removes-language-on-weapons-from-public-ai-principles



Google removes pledge to not use AI for weapons from website | TechCrunch

https://techcrunch.com/2025/02/04/google-removes-pledge-to-not-use-ai-for-weapons-from-website/

Bloombergによれば、Googleの「AI Principles」には、「Applications we will not pursue」という章があり、「全体的に危害を引き起こす、または引き起こす可能性のあるテクノロジー」「人間に傷害を与える、または直接的に容易にすることを主な目的または実施とする兵器またはその他の技術」「国際的に認められた規範に違反して監視目的で情報を収集または使用するテクノロジー」「国際法および人権の広く受け入れられている原則に違反する目的を持つテクノロジー」に関するAIを設計・展開しないと誓約していました。

実際に、2025年1月30日時点での同ページをInternet Archiveで確認すると、確かに「Applications we will not pursue」という章が存在しています。

AI Principles - Google AI - Google AI (Internet Archive - 2025/01/30 07:56:26)

https://web.archive.org/web/20250130075626/https://ai.google/responsibility/principles/



しかし、記事作成時点では「AI Principles」のページは大きく編集されており、「Applications we will not pursue」に当たる内容が存在していません。ただし、「意図しない、または有害な結果を軽減し、不公平な偏見を回避する」「国際法と人権の広く受け入れられている原則に沿うよう取り組む」とは書かれています。

AI Principles - Google AI - Google AI

https://ai.google/responsibility/principles/



新しい「AI Principles」では、Googleのシニアヴァイスプレジデントであるジェームズ・マニイカ氏とGoogle DeepMindを率いるデミス・ハサビス氏は、「民主主義国がAI開発を主導し、自由や平等、人権尊重といった核心的価値観に導かれるべき」と述べています。また、「これらの価値観を共有する企業、政府、組織が協力して、人々を守り、世界の成長と国家安全保障を支援するAIを創造すべき」とも主張しています。

かつてGoogleの倫理的AIチームを共同で率い、記事作成時点ではAI開発プラットフォームのHugging Faceで最高倫理科学者を務めるマーガレット・ミッチェル氏は、「今回の『Applications we will not pursue』の削除は倫理的AIや活動家たちの取り組みを無にするものであり、人命を奪う可能性のある技術の展開にGoogleが直接取り組む可能性があるという点がより問題です」と指摘しています。

IT系ニュースサイトのTechCrunchがこの件についてGoogleにコメントを求めたところ、Googleは「Responsible AI: Our 2024 report and ongoing work(責任あるAI：2024年の報告と進捗)」という公開記事を紹介したとのこと。このブログ記事で、Googleは「私たちは、これらの価値観を共有する企業、政府、組織が協力して、人々を守り、世界的な成長を促進し、国家の安全保障を支えるAIを開発すべきだと考えています」と述べています。

これに対して、TechCrunchは、Googleが近年イスラエルにクラウドサービスを提供する契約を結ぶ「Project Nimbus」をめぐり、一部の従業員から強い反発を受けていることを指摘しています。

Googleとイスラエルのビジネス関係に対する抗議活動で解雇された50人以上の元Google従業員が不法報復だとして規制当局に告訴状を提出、抗議を見ていただけで解雇されたという人物も - GIGAZINE



TechCrunchは「Googleは自社のAIが人間に危害を加えるために使われているわけではないと主張していますが、国防総省のAI責任者によると、GoogleのAIモデルは脅威を特定・追跡・排除するアメリカ軍のプロセスを加速させているそうです」と述べました。