CIA長官が高度なAIを核兵器と同等のレベルに位置づける
国家安全保障について語った中央情報局(CIA)のジョン・ラトクリフ長官が、高性能なAIモデルを核兵器になぞらえました。近年の高性能AIは既存のシステムから脆弱(ぜいじゃく)性を見つけ出す能力に優れたものもあり、金融や軍事システムなど国の中枢を成すシステムが脅かされています。
CIA boss compares cutting-edge AI to nuclear weapons
ワシントンDCで開催されたクラウドイノベーションの情報共有サミット「Amazon Web Services Summit」に登壇したラトクリフ長官は、アメリカのサイバーセキュリティについて語る中で、「AIの能力を核兵器に例えるのは決して的外れではないだろう」と指摘しました。ラトクリフ長官は、「国家安全保障および経済安全保障担当の顧問との議論では、最先端AIモデルがもたらす影響について話し合っている」とも語り、政府としてAIに対する安全保障を強化しているとの情報を共有しました。
近年は「Claude Mythos」などシステムの脆弱性の発見能力に優れたAIモデルが登場しており、既存のシステムが脅かされかねないとして対策が求められています。Claude Mythosは一般公開後にアメリカ政府から規制をかけられましたが、後に解除されています。
アメリカ政府がClaude Fable 5とClaude Mythos 5の規制を解除 - GIGAZINE
アメリカのドナルド・トランプ大統領は政府としてAIのイノベーションを奨励しつつ、政府がAIの安全性を評価するための準備を行えるようにする方針を示しており、AI企業が開発する最先端の「フロンティアモデル」を政府各機関に共有するための土台を整えようとしています。
トランプ大統領がAI規制は拒否しつつサイバー防衛能力を強化する大統領令に署名 - GIGAZINE
ラトクリフ長官は「就任以来、中国の動向を追跡することと並び、新興技術の監視を最優先課題の1つとしてきた」とも発言し、敵対勢力がアメリカの技術を盗もうとしているとも非難しました。
アメリカにとっての敵対国である中国は、アメリカ企業のAIモデルよりも脆弱性発見能力に優れたモデルを開発するなどしています。
中国のオープンウェイトモデル「GLM-5.2」が脆弱性検出ベンチマークでClaude Codeを上回る - GIGAZINE
