合成DNA・RNAがインターネットで簡単に入手できる現状は、研究・医療目的のためだとはいえ問題だとして、Anthropicなどのテック企業が署名した公開書簡が提出されました。署名者は、AIが生物兵器を開発しかねない状況を危惧しています。

An Open Letter in Support of Mandatory Nucleic Acid Synthesis Screening and Recordkeeping

https://screendna.org/



書簡には、「生命科学研究者、AIおよびバイオテクノロジーの開発者、そしてAI政策へのアプローチについて幅広い見解を持つ専門家として、私たちは立法者に対し、合成核酸の注文、およびそれを製造するために必要な機器の注文に対する審査を義務化するよう求めます」と記されています。

科学者たちは長年、合成生物学の進歩によって、危険な生物を人工的に作り出したり、あるいは既に死滅した病原体を蘇らせたりすることが容易になる可能性があると警告してきました。こうした技術は、誤用、不適切な取り扱い、あるいは偶発的な放出によって甚大な被害をもたらす恐れがありますが、これまでは高度な実験室、設備、資源を利用できる熟練した科学者たちの手に委ねられてきました。

ところが、近年はAIモデルの能力が向上しているため、一般人でも容易に手に入る材料で危険な生物が作り出される可能性が危惧されています。



合成DNA・RNAを提供する企業は2009年に国際遺伝子合成コンソーシアムを設立し、不正利用に対する自主的な安全対策を策定・実施していますが、これらは任意で行われるものであり、生成AIが存在しない時代に作られたもののため現代の基準に沿わない部分があるとして、書簡では合成DNA・RNAの利用者を審査し記録を保持することを義務づけるよう求めています。なお、この書簡はアメリカ政府向けに公開されたものです。

書簡では「この問題自体は新しいものではありませんが、AIの進歩の速度は新しいものです。現在のAIは、高度に専門的な実験手順に関する質問について、それぞれの専門分野において博士号レベルのウイルス学者を上回る性能を示しています。AIは急速に進歩しており、科学と医療にもたらす計り知れない利益と並行して、高度な知識の障壁を大きく下げることで、悪意ある人物が生物兵器を入手する可能性を生み出します。合成DNA・RNAの提供者は顧客の正当性を検証し、注文と配列データを記録すべきです」と記されています。

署名者には、Google DeepMindのデミス・ハサビスCEO、OpenAIのサム・アルトマンCEO、Anthropicのダリオ・アモデイCEOをはじめ、AI・テック企業の関係者や合成DNA・RNA産業の関係者が含まれます。