台頭する「AI搭載型サイバー犯罪」：悪意に満ちたAI、FraudGPTの脅威

FraudGPTのご紹介：サイバー犯罪者の新たな味方

サイバー犯罪の世界に革命をもたらしたWormGPTの成功を受け、脅威アクターたちは新たなAI搭載サイバー犯罪ツール「FraudGPT」を投入しました。この革新的なツールは、さまざまなダークウェブのマーケットプレイスやTelegramチャンネルで宣伝されており、その主な機能はサイバー犯罪活動を容易にし、迅速化することです。

FraudGPTの主な機能には、スピアフィッシングメールの設計、クラッキングツールの作成、さらにはカード詐欺（カーディング）活動の支援などが含まれます。しかし、サイバーセキュリティの専門家にとってFraudGPTが重大な懸念材料となっているのは、悪意のあるコードの記述、検出不可能なマルウェアの開発、さらにはITシステムにおける情報漏洩や脆弱性の分析・特定さえも行う能力を備えている点です。

FraudGPTの背後にいるのは誰か？

「CanadianKingpin」という偽名で活動するFraudGPTの開発者は、EMPIRE、WHM、TORREZ、WORLD、ALPHABAY、VERSUSといった複数のダークウェブのアンダーグラウンド市場において、認証済みベンダーとして自らを宣伝しています。このAIボットは7月22日から市場に出回っており、月額200ドルから年間1,700ドルのサブスクリプション料金が設定されている。執筆時点で、このツールの販売実績とレビューは3,000件を超えている。

AIを活用したサイバー犯罪ツールがもたらす脅威

WormGPTやFraudGPTのようなAI搭載サイバー犯罪ツールの存在は、サイバーセキュリティにとって深刻な懸念材料となっている。これらの攻撃における生成AIの活用は攻撃対象領域を拡大させ、これまでFraudGPTやその派生ツールが提供する種類の攻撃を実行するためのノウハウや手段を持っていなかった幅広いサイバー犯罪者にも、攻撃の機会を提供することになる。

これらのツールは、フィッシング・アズ・ア・サービス（PhaaS）モデルを高度化するだけでなく、大規模かつ説得力のあるフィッシングやビジネスメール詐欺（BEC）攻撃を実行しようとする経験の浅い個人にとってのプラットフォームとしても機能します。

サイバー犯罪ツールの進化：WormGPTからFraudGPTへ

今年、最初に話題を集めたAI搭載サイバー犯罪ツールの一つが、高度なフィッシングやBEC攻撃を容易にするよう設計されたWormGPTでした。生成AIを活用し、個々の受信者に巧みに合わせた、極めて説得力のある偽メールの作成を自動化することで、攻撃の成功確率を高めます。

一方、そのわずか数ヶ月後に市場に登場したFraudGPTは、前述の機能に加え、悪意のあるコードの作成など、より複雑で専門的なタスクを実行できる、さらに高度なツールです。このシステムの開発に利用された具体的な大規模言語モデル（LLM）については、依然として明らかにされていません。

高度な脅威検知が不可欠な理由

もちろん、AIを活用したサイバー犯罪ツールの台頭は懸念されるものの、サイバーセキュリティの専門家たちは決して手を緩めてはいません。WithSecureのような企業は、自社のAIツールを活用しながら、顧客のデータとシステムを保護するために日々積極的な取り組みを行っています。

WithSecureは、AIによるサイバー攻撃から企業を守るために設計された一連の専門ツールを提供しています。これらのツールは、FraudGPTのようなAIを活用したサイバー犯罪ツールがもたらす脅威を検知し、軽減するように特別に設計されています。同社のクラウドセキュリティ専門家は、AIと機械学習を活用してリアルタイムの脅威検知と対応を行い、企業がサイバー犯罪者の一歩先を行けるよう支援しています。

結論

サイバー犯罪におけるAIの未来

WormGPTからFraudGPTへの急速な進化は、悪意あるAIがサイバーセキュリティの情勢に与える多大な影響を浮き彫りにしています。これらのツールが進化するにつれ、サイバー犯罪を企てる者にとっての参入障壁がさらに低くなることは予想されます。

脅威アクターは、AIを活用してさらに高度なサイバー犯罪ツールを開発し続ける可能性が高いでしょう。例えば、ダークウェブからの膨大なデータコーパスで訓練された別の大規模言語モデルであるDarkBERTのリリースが間近に迫っており、これがサイバー犯罪者に対し、高度な攻撃を仕掛ける上でさらに大きな優位性をもたらす可能性があります。

要点

AIが進化し続けるにつれ、その悪用される可能性も高まっています。FraudGPTのようなAIを活用したサイバー犯罪ツールの出現は、AIの暗い側面を痛感させるものです。しかし、積極的な対策、適切なツール、そして警戒心を持ち続けることで、企業はこうした進化する脅威から身を守ることができます。

AIとサイバーセキュリティの最新動向を常に把握しましょう。適切な知識とツールがあれば、AIの力を悪用ではなく、善のために活用できるはずです。

AIを活用したサイバー犯罪との戦いにおいて、知識は力です。常に情報を得て、警戒を怠らず、安全を確保しましょう。