フランスのユーザーをターゲットとした電子メールによる攻撃において、生成AIの助けを借りて作成されたと考えられる悪意のあるコードが発見されました。

HP Wolf Security Threat Insights Report: September 2024 | HP Wolf Security

https://threatresearch.ext.hp.com/hp-wolf-security-threat-insights-report-september-2024/



Hackers deploy AI-written malware in targeted attacks

https://www.bleepingcomputer.com/news/security/hackers-deploy-ai-written-malware-in-targeted-attacks/

2024年6月頃、セキュリティ企業・HP Wolf Securityの調査でフランスのユーザーをターゲットにしたフィッシング攻撃が検出されました。HP Wolf Securityはフィッシング攻撃に使われたZIPファイルにブルートフォース攻撃(パスワード総当たり)を仕掛けてロックを解除し、中からVBScriptとJavaScriptで書かれたマルウェアを発見しました。

マルウェアを分析したHP Wolf Securityは、このマルウェアのスクリプト構造やコメント、関数名と変数の選択などが生成AI由来のものだと推定しています。

例えば、「すべてのコードにきちんとコメントが付いていた」というのが根拠の1つです。通常、犯罪者はコードがどのように動作するのかを隠すため、コメントが全コードにわたって付けられていることはあまりないそうです。



当該マルウェアはウェブサイトの詐欺広告を通じて配布されていました。広告はPDFコンバーターなどの生産向上をうたうツールのもので、ユーザーが広告を通じてウェブサイトにアクセス、ツールをインストールすると、マルウェアに感染するというものでした。



HP Wolf Securityは、「今回特定した活動は、生成AIがいかに攻撃を加速させ、犯罪のハードルを下げているかを示しています」と指摘しています。

テクノロジー系メディアのBleepingComputerは「完璧に動作するマルウェアをすべてAIで作っているか否かにかかわらず、犯罪者のスピードアップに生成AIが役立っているのは確かです。生成AIを使えばスキルのない犯罪者でも数分でマルウェアを作成することができます」と述べました。