ChatGPTやGeminiといったAIチャットボットによる出力を汚染するために、悪意のあるリンクやデータをインターネット上にばらまくというサイバー攻撃キャンペーン「Dark Sourcery」について、サイバーセキュリティ企業・Vigilance Securityの研究者が報告しています。

Dark Sourcery: How Hackers Manipulate AI to Scam You | by Ariel Simon | Sep, 2026 | Medium

https://medium.com/@arielsimon/dark-sourcery-how-hackers-manipulate-ai-to-scam-you-88df434d2073

Attackers Manipulate AI in Mass Disinformation, Phishing Campaign

https://www.darkreading.com/threat-intelligence/attackers-manipulate-ai-chatbots-mass-disinformation-phishing-campaign



Vigilance Securityの研究担当ヴァイスプレジデントを務めるアリエル・サイモン氏によると、Dark SourceryはChatGPTやGeminiといったAIチャットボットや、Google検索のAIによる概要のような「AIを用いた検索行為」を標的としたサイバー攻撃です。

Vigilance Securityのセキュリティアナリストによると、攻撃者はユーザーがAIに対して企業の連絡先を聞いた際に、偽の電話番号・メールアドレス・ログインページなどを提示するように仕向けるため、投稿・PDF・レビュー・サポートページなどを偽造し、インターネット上に大量に投稿しています。

Vigilance Securityが発見した「AI汚染のための偽造コンテンツ」の一例が以下。HP製プリンターの公式サポートへの連絡先が記述された画像および投稿のように見えますが、ここに記載されている電話番号はHP公式サポートの電話番号ではなく、攻撃者が偽造した偽の電話番号です。



このような「AI汚染のための偽造コンテンツ」をインターネット上に大量に投稿することで、Google検索のAIによる概要が、「攻撃者が偽造した連絡先」をユーザーに提示するケースが確認されています。これらの「攻撃者が偽造した連絡先」に連絡した結果、支払い情報やクレジットカード情報をだまし取られたという苦情も確認されているそうです。



攻撃者は検索エンジン最適化(SEO)などのテクニックを駆使し、AIチャットボットが「AI汚染のための偽造コンテンツ」を取得し、ユーザーとの対話の一部として利用するよう仕向けています。

サイモン氏はセキュリティメディアのDark Readingに対して、「権威の高い機関(大学や政府機関)と世論を反映する情報源(ソーシャルメディア、フォーラム、ユーザーレビューなど)を組み合わせることで、AIの回答をゆがめることに成功したと我々は考えています」「モデルにもよりますが、AIは情報源を確認し、権威ある機関からの情報であれば、そのコンテンツをより信頼する傾向があります」と語っています。

Vigilance Securityによると、Dark Sourceryでは「大手企業を装った偽の連絡先」をAIに提示させる攻撃が行われており、少なくとも374社が攻撃の対象になっているそうです。被害を受けた企業には、デルタ航空、ルフトハンザドイツ航空、カタール航空、JPモルガン・チェース銀行、バンク・オブ・アメリカ、Airbnb、TripAdvisorなどが含まれます。



Dark Readingは、「Dark SourceryはSEOポイズニングに似ている」と指摘。サイモン氏は「Dark Sourceryでは悪意のある情報がAIの回答の一部になってしまいます。偽のサポート番号が、あたかも役立つ情報であるかのように提示され、ユーザーは情報を提供したページを一度も見ないまま、偽の番号を利用してしまう可能性があります」と述べました。

また、ほとんどのインターネットユーザーはAIチャットボットを盲目的に信頼する傾向があるため、Dark Sourceryのような攻撃は「新しいリスクをもたらす」とサイモン氏は語っています。実際、2026年8月に発表されたExploding Topicsの調査によると、AIチャットボットを利用する人の91％が、提示された回答を検証していません。

Dark Sourceryは記事作成時点でも継続して行われており、その全容を完全に把握することはできていません。AIチャットボットユーザーにとって最も明白なベストプラクティスは、AIが提示した情報を検証し、AIチャットボットを盲目的に信頼しないことであるとサイモン氏は主張しています。