Thinking Machinesのジョン・シュルマン氏やOpenAIのヤコブ・パチョッキ氏、Anthropicのダリオ・アモデイ氏ら、AI企業のサイエンティストや従業員ら1171人が、アメリカ政府に向けて、自動化されたAI開発のペースを調整するために必要な技術やツールを開発する取り組みに対する支援を要請する声明を発表しました。

Pacing the Frontier

https://www.pacingthefrontier.com/



声明によると、トップAI企業はAI研究の自動化が間近に迫っているとみているとのこと。自動化によってAI研究がどれぐらい加速するものかは正確に予測できず、能力開発が急速に進むことで、生み出されたAIシステムが人間では理解・制御できないものになるリスクが存在しています。

このためシュルマン氏らは、自動化されたAI開発の最前線を意図的に制御するために必要な技術やガバナンス上のツールを開発する国際的な取り組みに対し、アメリカ政府からの支援を要請しました。



シュルマン氏は「AIの自動化研究が飛躍的に加速する中で、制御メカニズムが必要になる可能性の共通認識を持つ一助となるため、声明に賛同しました。アメリカ政府が関与するより前から、各研究所が自主的にこうしたメカニズムの設計に着手することを期待しています」と述べています。

Meta AIのチーフサイエンティストである趙昇嘉(シェンジア・ジャオ)氏は「我々の社会がまだ対応しきれないほどの速度でAIは進歩しています。最先端の研究機関では、知能のほぼありとあらゆる指標で、最も優秀な人間を凌駕しうるAIの実現が迫っています。これは、かつてない社会的リスク、安全上のリスクをもたらすことになります。明るい未来を築くために、責任感と慎重さを基盤としてAIを開発していく必要があります」と語りました。

なお、AIハードウェアや推論エンジンを開発するthe tiny corpは「他の企業に開発ペースを落とすように求めつつ、自社は開発を進めるつもりでは」と指摘しています。





「他の企業にAI開発の制限を求めつつ自分はAIの開発を進める」という例は過去にイーロン・マスク氏が実行しています。マスク氏は2023年3月に「AI開発の6カ月停止を求める声明」に署名しつつ、自身はAI開発用のGPUを買いあさっていることが判明。その後2023年7月にxAI(現：SpaceXAI)を設立し、2023年11月にはGrokをリリースしました。なお、マスク氏およびSpaceXAIは今回の声明に署名していません。

「AI研究の6カ月停止」を要請したイーロン・マスク、自分は1万個のGPUを買い込み独自のAIプロジェクトを進めていることが判明 - GIGAZINE



by JD Lasica from Pleasanton, CA, US