攻撃者によるAI利用の進化を理解する RSAC 2025パネルディスカッションにてAIの理論上の武器化事例を検証
提供: フォーティネットジャパン
本記事はフォーティネットジャパンが提供する「FORTINETブログ」に掲載された「氾濫する情報に惑わされない：AIを活用するサイバー犯罪者の実態」を再編集したものです。
米国時間2025年4月25日に掲載されたフォーティネットブログの抄訳です。
サイバー戦の攻守双方におけるサイバーセキュリティは、AIによって早くも変革されつつあります。攻撃の規模、速度、技術を向上させるため、脅威アクターはAIの使用を続けていますが、真に新しいAI主導型の脅威は、大部分がいまだ理論の域を出ていません。AIを活用したサイバー攻撃に関する衝撃的な情報のすべてが事実を伝えているわけではありませんが、派手な見出しに興味をそそられたり惑わされたりすることはよくあります。
サイバー攻撃の防御側は、AIを活用したサイバー犯罪に関する過剰な情報から、真実を見極める必要があります。今何が起こっているかを把握し、攻撃者が将来どのように戦術を進化させるかを予測することで、より有利な立場で現在の防御を固め、攻撃を予測し排除することができます。
先日、サンフランシスコで開催された「RSA Conference（RSAC）2025」において、私はカリフォルニア大学バークレー校のCenter for Long-term Cybersecurity（CLTC）、Berkeley Risk and Security Lab（BRSL）、シンガポール南洋理工大学の専門家と共にパネルディスカッションに参加し、AIを活用したサイバー犯罪について議論しました。このセッションでは、実務的、政策的、および学術的視点を総合することで、AIを活用したサイバー犯罪に関する過剰な情報を極力排除することを目指しました。
フォーティネットはパネリストとして参加したほか、関連イニシアチブであるAI-Enabled Cybercrime: Exploring Risks, Building Awareness, and Guiding Policy Responses（AIを活用したサイバー犯罪：リスクの調査、意識の向上、ポリシー対応の支援）にも引き続き関与し協力できることを嬉しく思います。同イニシアチブは机上演習（TTX）、調査、ワークショップ、およびインタビューを体系化したもので、CLTCが主催し、フォーティネットおよび官民両部門の組織が協力しています。
生成AI、エージェント型AI、武器化されたAIの違いとは?
派手な宣伝文句やメディアの報道など、至る所でAIに関する話題を目にします。組織のリーダーがそれぞれのセキュリティ戦略やネットワーキング戦略を進化させ改善するには、AIに関する誇張された情報と真実とを区別するだけでなく、生成AI、エージェント型AI、武器化されたAIといったさまざまなAIの種類と用途を理解することが不可欠です。
カリフォルニア大学バークレー校の非常勤研究員であるGil Baram博士が指摘しているように、「AIを活用したサイバー犯罪に関する最も重大な問題は、技術的なものではなく人間にあります。私たちは、アナリストや政策立案者など立場を問わず、不確定要素に備え、機械が生成した情報を疑い、欺瞞に対して常に警戒しなければなりません。これはシステムを改良するという意味ではなく、我々の戦略的思考を強化するということです」
パネルディスカッションでは、AIの理論上の武器化事例を検証し、現在の状況について話し合うと共に、将来的なシナリオの実現性について議論しました。また、CISOやCTOとそのチームが重点的に防御すべき対象とその方法について見解を示しました。
攻撃者によるAI利用の進化を理解する
すでにほぼすべての人が、AIを使ってサイバー犯罪について簡単に調べることができます。コーディングやハッキングツールの経験がほとんど、またはまったくなくても、最小限の労力で悪意のあるコードを作成できます。では、攻撃者の技術力はともかく、彼らは現在どのようにAIを使用しているのでしょうか。また、将来の活動にはどのようにAIを活用するのでしょうか。これを理解することは、情報に基づいたセキュリティ態勢を確立する上で重要であり、防御者にとってはリソース計画に役立つ重要かつ実用的なインテリジェンスとなります。
コードを武器化して新たな手法を実践する攻撃者にとって、AIは現代の「便利な手段」かもしれませんが、その影響ははるかに広範囲に及びます。AIは、サイバー犯罪のエコシステムを支えているダークウェブ市場、ツール、サービスの原動力となっています。ダークウェブは年々拡大し、新たなCybercrime-as-a-Service（CaaS：サービスとしての犯罪）が次々と出現しています。
ディープフェイクや偵察サービスのように、AIを活用したCaaSオプションがすでに増え始めています。AIによって、CaaSはさらに多様化が進むでしょう。セッションでは、予想される新しいサービスとその影響について、防御者が理解しておくべき点を議論しました。
RSAC 2025の「AI-Enabled Cybercrime：Separating Hype from Reality」（AIを活用したサイバー犯罪：氾濫する情報から真実を見極める）
サンフランシスコでのRSACでは、公共、民間、および学術の視点から見たAI主導のサイバー犯罪をお確かめいただけたと思います。サイバー犯罪でAIが果たす役割の現実的評価や、今後のAI開発、サイバーセキュリティコミュニティへのAIの影響などを紹介しました。
セッション名：AI-Enabled Cybercrime: Separating Hype from Reality（AIを活用したサイバー犯罪：氾濫する情報から真実を見極める）
日時 ：5月1日（木）開催
モデレーター：Berkeley Risk and Security Lab、Leah Walker氏
パネリスト ：フォーティネット FortiGuard Labsチーフセキュリティストラテジスト兼脅威インテリジェンス担当グローバルVP Derek Manky（デレク・マンキー）
シンガポール南洋理工大学 Helena Huang氏
カリフォルニア大学バークレー校 Center for Long-term Cybersecurity非常勤研究員 Gil Baram博士