危険すぎて即封印？クロード・ミュトスの衝撃 AIは国有化すべきか？「全くのナンセンス」平将明・前デジタル大臣に聞く
先日行われた、自民党の国家サイバーセキュリティ戦略本部と金融調査会の合同会議。そこで対策が急務とされたのが、今月発表された新型AI「クロード・ミュトス」。
システムの脆弱性を発見する能力が高いが、その一方で、サイバー攻撃など悪用される恐れが指摘されるなど、まさに諸刃の剣ともいえる超高性能AIだ。
特に懸念されているのが、金融システムへの影響。悪用された場合、経済活動や国民の資産へ深刻な被害を与える可能性もあり、金融庁も24日、日銀の植田総裁やメガバンク3行の頭取らと会議を開き「クロード・ミュトス」への対策を進めることで一致した。
この危険性については、開発したアンソロピック社自身も重視、不正利用対策のため、アメリカでは「クロード・ミュトス」を一般公開せず、アマゾンやアップル、JPモルガンなどハイテクや金融企業に利用を限定して、事前にソフトウェアの脆弱性を洗い出す「プロジェクト・グラスウィング」が立ち上がっている。 『ABEMA Prime』では、「ミュトス」について、専門家らに話を聞いた。
■最先端AI「ミュトス」がもたらす脅威
ミュトスについて、AIセーフティ・インスティテュート（AISI）初代所長の村上明子氏は、「AIを使ってサイバー攻撃をする脅威は以前から知られていたが、ミュトスの登場で一気にその脅威が高まった」と語る。「セキュリティホールを見つけるベンチマークにおいて、今までにないほど高速、かつ従来の3倍近い速さで見つけ出すことが分かっている。これにより、穴が見つかったその日に攻撃される『ゼロデイ攻撃』に繋がる危険性が非常に高まっている」。
平将明前デジタル大臣は、「アンソロピックのレポートによれば、去年の夏頃からAIが自律的に攻撃をしてくるようになった。ハッカーが攻撃してきたと思ったらAIだったという事例があり、そこからさらに進化している」と現状を解説した。
具体的にどのような危険があるのだろうか。「日本の重要インフラ、例えば電気、ガス、金融サービスなどのシステムの弱いところをAIが見つけ出し、自律的に攻撃するリスクがある。銀行口座も含め、企業のシステムに対して攻撃する能力が極めて高い」と答えた。
これに対し、守る側もAIを活用する必要がある。村上氏は「AIの攻撃に人間が対応していては間に合わない。攻撃に対する防御もAIで行う必要があるが、現状では攻撃側が圧倒的に有利だ」との見解を示した。
■日本版プロジェクト・グラスウィングの必要性
アメリカでは、ミュトスを攻撃側に使わせない一方で、金融機関を中心に事前に脆弱性を評価して対策を講じる取り組みが進んでいる。平氏は、これに倣い、「日本版プロジェクト・グラスウィング（Project Glasswing）」の立ち上げを提唱している。
「まずは金融分野からリードするプロジェクトを走らせ、重要インフラ全体に横展開していくべきだ。日本はビッグ3（オープンAI、アンソロピック、グーグル）と密に連絡を取っており、信頼関係がある。これに同盟国や同志国を加え、柔軟に対応できる組織を作るべきだ」（平将明氏）
一方で、国民民主党の玉木代表が主張する「AIの国有化」については、「全くのナンセンスだ。一民間企業が超大国を上回る力を持ち始めているという問題はあるが、国有化すればイノベーションが止まり、価値観の違う国に追い抜かれるだけだ。現実的な解決策ではない」と否定した。
■日常生活への影響とこれからの向き合い方
AIの脅威が叫ばれる中、一般の生活者にはどのような影響があるのか。京都精華大学前学長のウスビ・サコ氏は、「ネットバンキングを利用しようとしたら、セキュリティ強化を理由に中止された経験がある。日常生活がどこまで制限されるのか懸念している」と話す。
村上明子氏は「すぐに個人の口座が狙われるような影響はないだろうが、防御が高まることで利便性が損なわれる不便さは生じるかもしれない。しかし、AIのリテラシーを向上させることが重要であり、AIを使わないという選択肢は、かえってセキュリティの力を弱め、脅威を高めることになる」と指摘した。
悪用した際に作った側が罰せられる法律はないのか。平氏は「現在は製造者責任を問うような法律はない。だからこそ、ガードレールをしっかり設けてから世に出すことを国際的なルールにしようとしている」と説明した。
（『ABEMA Prime』より）
