OpenAIは6月5日に発表したAI脅威レポートの中で、悪意のある行為者が同社のAIツールを詐欺、サイバー侵入、世界的な影響力行使キャンペーンに利用するケースが増えていると警告した。
OpenAIは、ChatGPTをマルウェアの作成、職務資格情報の偽造、プロパガンダの自動化、その他の脅威に利用した最近の10件のキャンペーンの詳細を明らかにしました。これらの調査結果は、現代のサイバー作戦におけるAIの役割の拡大と、AIの悪用に対する集団的な保護策の緊急の必要性を浮き彫りにしています。
6カ国でAI悪用戦術が発覚
OpenAIは、中国、ロシア、北朝鮮、イラン、カンボジア、フィリピンの6カ国による協調活動を阻止したと発表した。大半は新たに特定されたものの、少なくとも10件の事例において、AIモデルが詐欺の拡大、世論操作、サイバースパイ活動の支援に利用された。
これらの攻撃には、就職詐欺のための偽の履歴書の作成、ChatGPT の助けを借りて悪意のあるコードの作成、TikTok での政治的に偏ったボット ネットワークの展開、偽の「タスクベース」のオファーの宣伝などが含まれていました。
ほとんどのキャンペーンでは関与が限定的でしたが、そのスピードと洗練度は、ID 検証システム、エンドポイント セキュリティ、偽情報防御に対する AI リスクの増大を示しています。
参照：AIの信頼性を維持する方法（TechRepublic Premiumより）
ロシア、北朝鮮、中国とのつながりを持つ業務が中断
OpenAIは、「AIの悪意ある利用を阻止する：2025年6月」と題した報告書の中で、3つの顕著な事例を詳述しています。報告書では、OpenAIの検出システムが3つのキャンペーンすべてにおいて異常な行動を検知し、アカウントの停止とパートナープラットフォームへの情報共有に繋がったことを強調しています。
「ScopeCreep」と名付けられたキャンペーンでは、ロシア語を話す脅威アクターがChatGPTを使用してWindowsベースのマルウェアプログラムを作成および改良し、さらにこのツールを使用してTelegramアラート機能のトラブルシューティングも行いました。
北朝鮮の関与が疑われる別の攻撃では、生成AIを用いてリモートワークの技術職向けの履歴書を大量作成する攻撃が行われていた。最終目的は、入社時に支給される企業向けデバイスを掌握することだった。
参照：北朝鮮のラップトップファーム詐欺：「これまで見たことのないもの」
「Operation Sneer Review」と名付けられた3番目のキャンペーンには、中国とつながりのあるネットワークが関与し、さまざまな国籍のユーザーを装った偽のデジタルペルソナを使用して、TikTokとXに親中国のプロパガンダを氾濫させた。
セキュリティチームとAIガバナンスへの影響
OpenAIの報告書は、生成AIが新たな脅威のカテゴリーを生み出したわけではないものの、悪意のある行為者にとっての技術的障壁を下げ、協調攻撃の効率を高めたと結論付けています。こうした混乱は、悪意のあるAIの利用がいかに急速に進化しているかを示しており、積極的な検知活動と共通の対策の必要性を浮き彫りにしています。
OpenAIは報告書の中で、「共有と透明性は、すべての関係者の間でより深い認識と備えを促進し、進化し続ける敵に対するより強力な集団防衛につながると信じている」と述べた。
つまり、セキュリティ チームは、攻撃者が大規模言語モデルを攻撃活動にどのように取り入れているかを常に監視し、OpenAI、Google、Meta、Anthropic などの企業が共有するリアルタイムの情報を活用する必要があります。
「革新、調査、協力、共有を継続することで、悪意のある行為者がデジタルエコシステム全体で検出されずにいることが難しくなり、他のすべての人々の体験が向上します」と報告書は結論付けている。
