世界が恐れる金融システム破壊AI誕生…実は、中国が同等レベルの人工知能を開発する日は間もなくやってくる
事の重大性
片山さつき財務相が、日銀総裁と三菱UFJ、三井住友、みずほの三大銀行のトップに対して、緊急呼び出しをかけた。4月24日だったが、異例中の異例、よほどの事態であるということだ。
その16日前の4月7日（ワシントンDC現地時間）、ベッセント財務長官が米主要金融機関の代表者を集め、金融ネットワークが重大な危険に見舞われる恐れありとして、対策を協議した。それにならったわけだ。
発端は、4月7日にアンソロピックの最高経営責任者のアモディが、「クロード・ミュトス（Claude Mythos）」と命名したAIを、一般公開しないと発表したことによる。
人間には見つけられないソフトウエアの欠陥が、AI（ミュトス）によって見つかり、そのコンピュータのアキレス腱が、何者か、「敵国」「テロリスト」「変質者」によって突かれ、金融ネットワークが総なだれを起こすかもしれなくなってきた。これがミュトスを一般公開しないと決めた根拠だ。
即時に反応したアメリカに対し、日本の時間差は2週間あまり、つまり温度差は小さくない。いったい日本の当局には、事態の重大性がわかっているか、いささか気掛かりになってくる。
そもそも、なぜ人間には見つけることの出来ないコンピュータソフトウエアの欠陥が存在するのか、そしてミュトスはどのような原理、戦略でこれらを容易に発見できるのか、説明してみたい。
もし模倣可能な手法であるならば、一般公開せず秘匿したところで、追従者が現れる可能性があることになる。
迷路にひそむソフトの欠陥は人間には見つけられない
プログラミングのミスで、影響が大きいのは、メモリ破壊（制約不足で記憶域に上書きしてしまい、演算のつじつまが合わなくなり、システム全体が停止する）、論理バグ（バグは「虫」、矛盾した命令のこと）、設定ミス（大はそもそもの設計仕様書のミス、小はプログラム中の動作条件の指定ミス）などだ。
いくら慎重に、すみずみまで検討して、設計仕様書で決めておいても、実際にプログラムを作成する段になれば、仕様書にしたがって部分に分けて、メンバーが異なる複数のグループで分担して書き進められる。途中でグループが別グループといくら綿密に作成意図について、コミュニケーションを交わしても、理解不足や誤解のため、できた部品プログラムをつなげてみるまでは、実際にはつなぎ方が決まらないし、つながるかどうかは不明だ。
さらには、つなげるよりも前の段階で、早くもプログラムの動作が仕様書通りではなくなってしまい、仕様書のつなぎ方が通用しなくなっていることもある。こんな場合は、つなぎの境界に、つながるようにするインタフェース（接面）を新たに作成し介在させる必要がある。
それによって、つながるようになったとしても、さらにいくつものインタフェースを介しているうちに、設計仕様書で想定したのとはますます異なる動作を、プログラムがするようになってしまっているかもしれないのだ。
実はそうなっているのに、気づかないかもしれない。というのは、そうなっているとは想定できず、実態が暴露されるテストが組まれないからだ。普通の使い方をしている限りでは、問題含みのインタフェースにさしかからずに済んでしまう場合が多い。そのため欠陥が残ったまま使われ続ける。
テストして運用を始めてから何年も経って、突然コンピュータが動かなくなってしまい、対策がすぐには見つからない故障がたまに起こる。その原因は、隠れていたソフトウエアの欠陥に、たまたま遭遇したという場合が少なくない。
業界では、一般社会に通用しない言葉が交わされる。その一例がミスの頭につけられる「ゼロ・デイ」と「N・デイ」だ。デイは「日数」だから、ゼロは「未発見」、Nは「発見後N日経過」を意味する。一定以上の大きさのソフトウエアは、すべて藪の中、「ゼロ・デイ・ミス」が延々と続く。とは限らないにしても、そうだと思っていなければならない。
ミュトスのミス探しの原理はどこまで「神話」的か
AIを開発したアントロピックは、誇らしげに「ミュトス」つまり「神話」と命名したが、神のように全能ではないだろう。一般には非公開としているが、自社のウェブ・サイトやAIサービスのClaud AIでは、機能と原理を想像させるようなヒントをちらつかせている。
ライバルのOpenAIのChatGPTとは、原理的に異なるらしい。ChatGPTは、学習内容を細分して、細分した断片と断片のつながり方の統計（確率）を割り出し、その結果を使って、ユーザーの求めに答える。原理は統計と検索だ。
それに対してミュトスは、追加として、ユーザーの代わりを演ずるエージェントを設定し、それがソフトウエアのすみずみまでを点検することを、原理の一部としているようだ。
人間はどうしても自分なりの思い込みで、ありもしない構造を想定してしまうが、AIは愚直にソフトウエアに書かれているように手順を追う。その結果、人間が見過ごすミスを見つけるというわけだ。ミュトスは、そうしたチェック機能を、従来のAIに追加するなり、それ単独を商品化しようと計画したのではないだろうか。
似たような構想は、エージェントがユーザーの要請を基に世界を設定し、そこでのシミュレーション結果を出力するシステムとして、他社でも研究開発がすでに始まっている。たとえば昨年末にメタ（フェイスブック系）から独立したヤン・ルカンは、エージェント・ワールド・システムを提唱している。
「中国はハードウエアを調達済」
ソフトウエアの弱点を見つけるAIは、兵器として攻守の両面で使われるかもしれない。そこで気掛かりなのは、中国がミュトスと同等のAIをいつ保有するかだ。
それを予測する最適任者は、AIの心臓であるGPUを独占的に供給するエヌビディアの社長、ジェンスン・ファンだろう。「中国はハードウエアを調達済」と、彼は答えているのである。
システムの稼働時期の予測は避けたが、数年後ではなく、数か月後を想定していてもおかしくはない。
【あわせて読む】金融システム崩壊の可能性も…人間が制御できない怪物AI「クロード・ミトス」が出現してしまった
