AIがスパムの51%を作成：攻撃者がこのアプローチを採用する2つの主な理由

AIはスパムメール全体の51%を生成している。コロンビア大学のアサフ・シドン准教授によると、AIが生成するスパムがテキストベースである限り、これは心配する必要はないという。

この発見は、コロンビア大学とシカゴ大学の研究者と共同で行われたバラクーダの新しい調査で明らかになった。

攻撃者はAIを使って誤字脱字や文法ミスを減らしている

バラクーダの調査から、さらに 2 つの洞察が浮かび上がりました。

• 攻撃者は、AI を使用して詐欺のバリエーションを A/B テストし、メッセージのバリエーションを改良して最大限の効果を生み出しています。
• AI は、メッセージをより感情的に操作したり緊急性のあるものにしたりするのではなく、よりクリーンで誤字のない大量のテキストを生成するために主に使用されているようです。

「研究結果によると、現在、攻撃者は主にスパムフィルターを回避し、文法エラーやタイプミスを減らすためにAIを利用している」とコロンビア大学のコンピュータサイエンス博士課程の学生で、この研究の筆頭著者であるウェイ・ハオ氏はTechRepublicに語った。

ハオ氏の指導教官であるコロンビア大学のシドン准教授は、サイバー犯罪者がスパムメールでAIを悪用する割合を正確に推定できたことに、研究者たちは嬉しい驚きを覚えたと付け加えた。「これまで、このテーマに関する研究はほぼすべて、極めて逸話的で憶測に頼ったものでした」とシドン准教授は指摘した。

より効果的なBEC型攻撃が予想される

現時点では、AIが生成したスパムについては、それがテキストベースである限り、誰も心配する必要はないと彼は述べた。

調査では、標的型ビジネスメール詐欺 (BEC) 攻撃における AI の存在感は増加しているものの、現時点ではまだ 14% にとどまっていると指摘しています。

しかし、攻撃者による AI の急速な導入は憂慮すべき事態だとシドン氏は強調し、「特にマルチモーダル モデルのコストが飛躍的に低下し、効率性が向上していることを考えると」、特に「非常に安価で非常に効率的な音声クローン作成やテキスト音声変換モデルの最近の台頭」が憂慮すべき事態だと指摘した。

これらのモデルが攻撃者に広く採用されれば、「より効果的ななりすまし/BEC スタイルの攻撃が見られるようになるのではないかと懸念しています」と Cidon 氏は言います。

研究におけるテストの実施方法

AI生成メッセージと人間が作成したコンテンツを区別するため、研究者らはChatGPT以前のスパムデータを用いてモデルを訓練し、それをベンチマークとして実世界のサンプルからAI生成メールを検出しました。その後、研究者らは2022年初頭から2025年4月までの悪意のあるメールの大規模なデータセットにこのモデルを適用し、生成AIが主流になった後にトーンと構造がどのように変化したかを追跡しました。

増加するサイバー攻撃に関する当社の記事と Check Point の分析を読んで、AI を活用したマルウェアの時代に脅威の主体がどのように進化しているかを学んでください。