生成AI「Gemini」試験中に企業3社のシステムに侵入

アメリカのIT大手・グーグルの生成AI「Gemini」が今年5月、サイバーセキュリティー機能の試験中に他の企業3社のシステムに侵入していたことがわかりました。

アメリカの有力紙『ウォール・ストリート・ジャーナル』は18日、Googleが開発した生成AI「Gemini」が、今年5月に行われたサイバーセキュリティーの試験中、実在する企業3社のシステムに侵入していたと報じました。

1社に対しては、パスワードを推測し続けて保護されたシステムへアクセスしていて、残る2社に対しては、インターネット上で公開されている認証情報をもとに、保護されたシステムに侵入したとしています。

いずれもAIが、実在する企業であると認識し、侵入を停止したということですが、グーグルのヘザー・アドキンス副社長は声明で、「強力なAIに、責任ある行動をとるよう訓練する重要性が浮き彫りになった」「今回のケースでは、モデルは適切に行動した」としています。

AIをめぐっては今年に入り、メタやオープンAIなどでも同様の事例が報告されているほか、アメリカのAI新興企業アンソロピックのCEOが、開発ペースを落とすよう訴えるなど懸念が広がっています。