近い将来、オンライン詐欺はAI同士の戦いになる
TECH INSIDER 2024年6月10日掲載の記事より転載
・ハーバード大の研究で、AIによるフィッシング詐欺に人間によるものと同等の効果があることが明らかになった。
・AIの大規模言語モデルは自動でフィッシングを行うことができ、コストも95％削減されるという。
・だがAIは、フィッシングを察知することもできる。
オンライン詐欺は近い将来、AI同士の戦いになるかもしれない。一方が攻撃をしかけ、もう一方がそれを防ぐ、というように。
オンライン詐欺は、ますます広がるばかりだ。ハーバード大の調査によると、新たなAIテクノロジーによって、防ぐことはさらに難しくなるという。
ハーバード・ビジネス・スクールの研究者らが、参加者の60％がAIの自動フィッシング・メールにだまされた、という研究結果を発表した。これは、人間が作ったフィッシング・メッセージに匹敵する成功率だと『ハーバード・ビジネス・レビュー（Harvard Business Review）』に書いている。
フィッシング詐欺は、ユーザーを騙して個人情報を提供させる。通常、企業や個人を装ってメールその他のメッセージを送り、クレジットカード情報やパスワード、その他の機密情報を要求するものだ。
フィッシング詐欺は、インターネットとほぼ同時に誕生したが、AIモデルにより｢詐欺の深刻さ｣は増していると研究者らは述べた。この研究で大規模言語モデル（LLM）は｢フィッシングの全行程｣を自動化することができることを研究者らは明らかにした。情報を集め、ターゲットを選別して、メールを作成するといったコストをAIによって、95％削減することができるという。
｢そのため、今後数年でフィッシングは劇的に悪質さを増し、数も増えることになるだろう｣と著者らは書いている。
フィッシング詐欺を悪化させるAIモデルだが、その一方で、フィッシング詐欺の発見や撲滅に役立つことも、研究者らは示唆している。
中には、それに秀でたAIモデルもある。Claudeは、｢そうと明らかではないフィッシング・メールであっても、時には人間よりも高い確率で｣特定したと研究者らは書いている。
研究内でテストされたAIモデルにも、フィッシング・メールを特定して｢素晴らしい対応策｣を教えてくれたものがいくつかあったという。
｢例えば、我々の実験の中でLLMは、お得なセールを知らせるメールが送られてきたユーザーに対し、セールについて公式ウェブサイトで確認するよう促した。それはフィッシング攻撃をかわす良い戦略だ｣と研究者らは書いている。
アメリカ連邦取引委員会（FTC）によると、フィッシング詐欺をかわす最も良い方法は、知らない人から送られてきたメールやメッセージのリンクをクリックしないことだという。また、その企業のアカウントを自分が持っているか、あるいは知っている人なのか確認し、そうでない場合は、アンチ・フィッシング・ワーキング・グループ（Anti Phishing Working Group）に報告するよう述べている。
Photo: Peter Dazeley/Getty Images
