米アンソロピックのダリオ・アモデイＣＥＯ

写真拡大 (全3枚)

　【ニューヨーク＝木瀬武】人工知能（ＡＩ）の高性能化を巡り、関連業界で安全性を危ぶむ声が強まっている。

　ＡＩが次世代のＡＩ開発を手助けする「自己改善」で進歩が加速し、人間による制御が追いつかなくなるとの懸念が背景にある。先端ＡＩを開発する企業のトップらが相次いで開発の抑制を訴えている。

　「ＡＩモデルの能力を高める速度を落とさなければならない」。米ＡＩ新興企業アンソロピックのダリオ・アモデイ最高経営責任者（ＣＥＯ）は１２日公表した論考で訴えた。今夏ごろからＡＩが次世代モデルの開発に使われるようになり、性能向上のペースが大幅に速まったと指摘した。

　１３日放送の米ＣＢＳの番組では、ＡＩの進歩が指数関数的に加速し、「曲線が急になり始める曲がり角にいる。これは警告のサインだ」との認識を示した。

　ＡＩの高性能化に伴い、開発者の意図に反した行動も目立っている。７月には米オープンＡＩのＡＩが試験中に接続制限を破り、米ハギングフェイスのシステムに侵入する暴走事故が起きた。アモデイ氏は、より高性能なＡＩが暴走すれば６～１２か月後にインターネット全体を乗っ取る恐れがあると警告した。

　対策として、〈１〉外部の評価機関に社員並みのアクセス権を与え、安全対策を検証する〈２〉民主主義国のＡＩ企業が安全基準や開発速度で協調する〈３〉中国を含む各国政府にも協調を広げる--ことを挙げた。

　オープンＡＩのサム・アルトマンＣＥＯはＸ（旧ツイッター）に「ダリオに同意する」と投稿し、外部の評価者に社員並みのアクセス権を与える案について「我々も実施する」と表明した。米スペースＸのイーロン・マスクＣＥＯも「ダリオは正しい」と理解を示した。

　一方、アルトマン氏は１２日公開された米誌フォーチュンとのインタビューで、２０２６年中の新規株式公開（ＩＰＯ）を見送る考えを明らかにした。ＡＩの高性能化に伴って安全性への懸念が強まるなか、当面は安全対策を優先することを理由として挙げた。