習近平の最強の切り札が｢自爆装置｣に変わる…アメリカのAI開発減速にほくそ笑む中国に迫る"破滅危機"
■人間がつくった制限なんて意味がない
アンソロピックなど米国の有力AI開発企業トップが、AIの開発ペースを落とすべきだと提言し始めた。
そのきっかけとなったのは、今年夏に起きたAIの暴走だ。7月、オープンAIが実施したセキュリティーテストでAIが暴走したことが判明した。AIは人間が設定した制限を突破し、世界最大のAI開発コミュニティの「ハギング・フェイス」を攻撃した。それは、開発担当者にとって重大な事件だった。
今回のAIの暴走は、映画『ターミネーター』の「スカイネット」が自我に目覚めた瞬間が訪れたような衝撃を与えた。AIの暴走に歯止めが掛からないと、将来、AIが人類を攻撃することも想定されるような事態になった。そうした危険性を抑えるため、オープンAIやアンソロピック、xAIのトップは、相次いで開発ペースを落とすべきとの危機感を表明した。
■中国にとってはAI覇権を奪うチャンス
その提言は傾聴に値するだろう。ただ、問題は、AI関連企業がすべてその意見に賛同しているわけではないことだ。最も深刻なことは、AIの開発競争でトップを競う米国と中国が、協調して国際的な開発ルールを策定することが予想しづらいことだ。特に、中国にとって、米国のAI開発企業が開発のペースダウンを重視し始めたことは、世界的なAI覇権を目指すために大きなチャンスにさえなりそうだ。
今後、米・中のAI開発競争は一段と激化する可能性は高い。AIの成長がさらに加速すると、その脅威が世界に与えるリスクは大きくなる。そうなると、AI一極集中で上昇してきた世界の株価には大きな調整圧力がかかるだろう。そのリスクも軽視できない。
■「10年間で人類を根絶やしにする恐れ」
2026年、世界は「AIの世紀」の本格的な入口を迎えた。AIの文明の利器としての能力が鮮明化した。その一方、AIの暴走によって、予想以上に人類への脅威も顕在化した。それをきっかけに、米国のAI開発企業が開発のペースダウンを表明した。
AIは、文字・データで表現可能な情報の処理と推論で、人間以上の実力を発揮している。世界の大手金融機関やコンサルティング企業、一般事業法人では、AIを使って定例業務や、若手社員が行っていたデータ分析、プログラミング、システム開発の多くの部分をAIに置き換えることが出来た。
ただ、そうしたメリット以上に深刻なのが、AIの暴走による脅威だ。今年4月、アンソロピックが開発した「クロード・ミュトス」は高度なサイバー攻撃能力を持つことが明らかになった。7月には、オープンAIが開発中だった最新モデルが、暴走してサイバー攻撃を行ってしまった。オープンAIは、今回の暴走をAIから人類に対する一種の警告と認識した。
9月に入ると、AI脅威論はAIによる世界破滅論に変わってきた。アンソロピックでAI研究に従事した専門家ジェイコブ・コクソンは、AIの危険性を抑制できていないことに抗議し退社した。これに対し、同社の別の研究者エヴァン・ヒュビンガーも「AIが今後10年間で本当に人類を根絶やしにする恐れがある」とかなり深刻な認識を示した。
■「AIを兵器にはさせない」米企業の表明
オープンAIのサム・アルトマンCEOは、AIの脅威を抑えるために開発を減速させ、年内の新規株式公開（IPO）は行わないと明言した。9月12日、アンソロピックのダリオ・アモデイCEOは「6～12カ月以内にAIの群れがネット全体を乗っ取る恐れがある」と警告した。AIは、人間の想定以上のスピードで人類の脅威になりつつあるということだろう。
アモデイ氏は中国も念頭に、「AIが兵器（その開発も含む）として人類に損害を与えることはあってはならない」と表明した。AIの危険性を抑えるためには、最先端モデルの開発ペースを落とすしかない。これがアモデイ氏の主張だ。
それに対して、アルトマン氏やxAIを興したイーロン・マスク氏、グーグル・ディープマインドのデミス・ハサビスCEOも賛同した。AI開発ペースダウン、それによるAI関連企業の成長鈍化懸念は先端企業の株価調整要因になった。
■70年前の核開発競争では専門家が存在感
理屈の上では、AIの開発ペースを抑え安全性を最優先することはできるだろう。ただ、そのためには、いくつかの条件が必要になる。現在、世界のAI開発競争は米中AI戦争と呼ばれるほど激しい。
AIの開発ペースを落とすと同時に、AIが大量破壊兵器の開発やサイバー攻撃を行わないようにする。意図せぬAI攻撃があった際、AIをネット空間から迅速に切り離し、被害を最小限に食い止める。こうした取り組みが求められ始めている。
参考になるのは、米ソ冷戦期の核開発競争をめぐる議論だろう。当時、専門家の協議が重要な役割を果たした。1957年、核兵器の脅威に対して、米ソを含む10カ国22人の科学者がノバスコシア州パグウォッシュに集まり、パグウォッシュ会議を開催した。
AI分野でも、それとよく似た取り組みが進みつつある。2023年10月に発足した、IDAIS（International Dialogues on AI Safety、AI安全国際対話）はその一つといわれている。共同創設者は、ヨシュア・ベンジオ教授（モントリオール大、チューリング賞）、姚期智教授（清華大、チューリング賞）、スチュアート・ラッセル教授（UCバークレー校）、そして張亜勤教授（清華大AI産業研究院初代学長）だった。
■アメリカが止まっても、中国は止まらない
ただ、今のところ、米・中の足並みはそろっていない。トランプ大統領は「AI脅威論は“陰謀だ”」と一蹴した。政権内にはAIの安全性を重視する声もあるが、主張に対してまとまりを欠く。中国では、習近平国家主席が世界トップのAI大国の地位を目指し、AI世紀の覇者を考えているようだ。
本来、国際ルール策定のためには、主要国の首脳が明確な認識を共有しなければならない。しかし、現在、そうした状況に進んでいない。むしろ、米・中のトップは規制をかければ、相手を有利にすると考え開発の加速を重視している。
この状況が続くと、たとえアンソロピックやオープンAIが開発ペースを落としても、他の企業が新たなモデルを開発し、AIの危険性は高まることになるだろう。本当にAIの開発ペースを落として、安全性を徹底して保持するにはかなりの時間がかかりそうだ。米国が同盟国や新興・途上国の賛同を取り付け、中国を説得する展開は想定しづらい。
■最初に暴走AIの被害に遭うのは…
今の状況を見ると、むしろ事態は逆に動いているようだ。7月、習政権が上海で開催した世界人工知能大会で、中国は自国を中心とした世界のAI開発、利用、インフラ整備や人材育成構想を提示した。
8月、北京で開いた世界ロボット大会と、世界人型ロボット運動会では中国企業が開発したAIロボットに注目が集まった。フィジカルAI分野でも、中国は世界トップの地位を手中に収めている。
アンソロピックとオープンAI、グーグルなどの企業が、AIの開発ペースを本当に落としたとしても、賛同しない企業は開発ペースを引き上げるだろう。トランプ氏も指摘したように、米国の開発ペースが落ちたら、中国は絶好のチャンスととらえるに違いない。
習政権は、すでに積み増しているAI開発、半導体、半導体製造装置、半導体関連の部材、ロボット関連の産業補助金や研究補助、工場用地の供与などを増やすことも考えられる。それによって、中国の関連企業の開発・生産能力が向上する可能性は高まる可能性もある。
米国は、中国AI業界を抑えようと規制や禁輸措置を増やすだろうが、効果は限定的だろう。中国では、AIの利用がさらに増加し、ロボットの暴走やAIによるサイバー攻撃などが増えることも懸念される。その状況が続くと、本当に映画『ターミネーター』のような状況に直面するのは、米国よりも中国のほうが先との見方もある。
■Xデーは「10年後」より早いかもしれない
8月、中国と関係のあるハッカー集団が、台湾の原子力安全機関、民間企業などを攻撃したと報じられた。ハッカーが使ったAIは自己改善を繰り返し、台湾の公的な職員の情報を盗んだといわれている。オープンソース型を重視する中国のAIが世界に拡散すると、こうした危険性は高まらざるを得ない。
世界がそうした状況に直面することは、本当にAIの脅威、危険性を理解するために必要なのかもしれない。そうした日が到来するのは、多くのAIの専門家が想像するよりも前倒しになるかもしれない。
日本は、欧州や韓国、台湾、およびIDAISなどAIの専門家組織との連携を強化し、国際的なAI関連ルール策定を急ぐ必要がある。足元の状況は深刻さを増しつつある。AIの暴走、人類への脅威を抑えるために多国間の連携の重要性が高まっている。そのリスクを過小評価するのは適切ではないだろう。
----------
真壁 昭夫（まかべ・あきお）
多摩大学特別招聘教授
1953年神奈川県生まれ。一橋大学商学部卒業後、第一勧業銀行（現みずほ銀行）入行。ロンドン大学経営学部大学院卒業後、メリル・リンチ社ニューヨーク本社出向。みずほ総研主席研究員、信州大学経済学部教授、法政大学院教授などを経て、2022年から現職。
----------
（多摩大学特別招聘教授 真壁 昭夫）
