AIは防御の味方か、犯罪者の武器か 演習から見えたサイバー攻撃の未来

文●フォーティネットジャパン　編集●ASCII

提供: フォーティネットジャパン

  • この記事をはてなブックマークに追加
  • 本文印刷

本記事はフォーティネットジャパンが提供する「FORTINETブログ」に掲載された「AIによって変容する現代のサイバー犯罪」を再編集したものです。

AI時代のサイバー犯罪を連携の枠組みで捉える

　フォーティネットは、AIにより高度化するサイバー犯罪への対応のため、カリフォルニア大学バークレー校のCenter for Long-Term Cybersecurity（CLTC）、Berkeley Risk and Security Lab（BRSL）など、学術機関を含む官民のパートナーとの緊密な連携も推進しています。この取り組みでは、グローバルな机上演習（TTX）、調査、政策分析を通じて、AIがどのようにサイバー犯罪を変化させ、また防御側がどのように先手を打てるのかを明らかにしています。

　その一環としてCLTCが発表したFrom Automation to Autonomy: The Next Leap in AI-Enabled Cybercrimes（自動化から自律化へ：AIにより高度化するサイバー犯罪の次なる進化）は、シンガポールで実施したTTXに関する学術分析であり、Gil Baram博士、Helena Huang氏、そしてDerek Mankyが共同で執筆しています。

　この論文は、シンガポールの演習で明らかになった組織的 / 社会的 / 人的な課題を踏まえ、AIがどのように攻撃者の能力向上を加速させているのかを研究的な観点から示しています。本ブログでは、分析の補足として、演習で観測したこと、FortiGuard Labsのインテリジェンスとの整合性、組織が次に備えるべきことについて解説していきます。

　CLTCのチームが述べているとおり、サイバーセキュリティ環境では本質的な変化が進行しつつあります。この変化は、シンガポールのTTXでも明らかであり、AIが既存の攻撃ベクトルを拡大し、さらに意思決定、ガバナンス、セクター間の調整に対する新たな圧力を露呈させています。

AIがサイバー犯罪のあり方を変えている

　CLTCの分析とフォーティネットの運用上の観測の両面で、いくつかのパターンが浮かび上がっています。

AIは現時点では新たな脅威を生み出しているのではなく、既存の脅威を増幅させている

　CLTCのチームは、「AIはサイバー犯罪者に新たな動機を与えたわけではなく、既存の攻撃のスピード、規模、巧妙さを劇的に高めた」と指摘しています。具体的には、以下の点が挙げられています。

・フィッシングと口実の作成が効率化している
・偵察が迅速化している
・専門知識の少ない脅威アクターでもコード生成が容易になっている
・マルウェアやエクスプロイト経路の反復サイクルが短縮している

参入障壁が低下し、役割の専門化が進む

　攻撃を成功させるために、高度な技術的背景はもはや不要になっています。AIに支えられたツールチェーンによって、以前はチームの連携を必要としていたタスクを、少人数のグループや個人で実行できるようになっています。同時に、犯罪エコシステムは専門的な役割（発見、アクセス仲介、ラテラルムーブメント、収益化、ディセプション）に分かれつつあります。

依然として人間の脆弱性が主要な攻撃対象に

　ツールが進化する一方で、攻撃者が最も効果的に利用しているのは、従来と同じ信頼、緊急性、権威という要素です。AIの役割は、その活用にさらに磨きをかけることにすぎません。

　こうした知見は、TTXの結果を理解し、サイバー犯罪がセクターを越えてどのように進化しているかを理解するための基盤となります。

シンガポールのTTXが示した防御側の課題

　シンガポールの演習では、AIが生成したマルウェア、ディープフェイクを利用した詐欺、重要インフラストラクチャ全体にわたる急速なエスカレーション、偽情報の波及といったシナリオが参加者に提示されました。その中で、運用上の洞察としていくつかの点が浮き彫りになりました。

AIによって攻撃対象領域がシステムの外側へと拡大している

　CLTCのブログには、この変化が明確に説明されています。AIは、「企業のコンプライアンス / 人事 / 法務チームに新たな複雑さ」をもたらし、インシデント発生時のアイデンティティの確認を一層困難にします。調査担当者はコードやログだけでなく、音声、メッセージ、リクエストについても検証が必要になっています。

現時点では、自動化は防御側よりも攻撃側を加速させている

　TTXは、AIが支援する偵察と脆弱性の悪用がいかに迅速に展開されるかを示しています。防御側はAIをワークフローに組み込もうとしていますが、責任ある形での実装には、テスト、ガバナンス、明確な運用管理が必要となります。一方、攻撃者はこうした制約なしに活動できます。

テクノロジーと同等にガバナンスが成否を左右する
CLTCが演習を通じて繰り返し確認した重要な洞察の一つは、具体的にどのようなツールを利用できるか以上に、組織としての意思決定体制の明確さが重要だという点です。侵害初期の対応が遅れた原因は、技術的なギャップではなく、意思決定権限が不明瞭であるケースが大部分でした。

人間の判断が依然として不可欠である

　参加者は、大規模データセットのトリアージにAIを使用する一方で、調査の結論や攻撃元の特定をAIに委ねることは一貫して避けていました。これは、「AIツールは一定の役割を果たしたが、その範囲は限定的だった」というCLTCの見解とも一致しています。

官民連携の重要性

　本イニシアチブの最大の強みは、学術界、産業界、政府の視点を統合している点です。進化する脅威について、各コミュニティは異なる側面を見ているため、これは極めて重要です。

連携によって強化される点は次のとおりです。

・AIにより高度化する新たな脅威に対して、業界の枠を超えて脅威を把握する可視性
・極度の切迫状況下でのインシデントにおける危機対応コミュニケーションの規律
・攻撃のエスカレーションが急速に進む局面での脅威インテリジェンスの共有
・実務の現実に根差した政策の策定

　CLTCのブログでは、次のように述べられています。「連携は、単なるソフト面の価値ではありません。AIによって加速する世界における基本的なセキュリティ対策です」フォーティネットの関与も、この考え方を反映しています。シンガポールやバークレーで実施された演習のような取り組みを通じて、インシデントが現実に発生して対応を迫られる前に、共通の理解を形成できます。

今後の脅威への備え

　シンガポールの演習は、このイニシアチブの下で推進されているグローバルな取り組みの一環であり、先週イスラエルで実施された最終TTXもその一つです。2026年第1四半期には、こうした調査結果をまとめた包括的なレポートが公開される予定です。

演習を通じて、防御側を導くいくつかの原則が継続的に示されています。

・過度な期待や煽りに流されず、証拠に基づいて判断する
・セクター間の関係を強化する
・AIの支援を活用した検知と、人間による強固な監視を組み合わせる
・攻撃者によるAIの導入が規制を上回る勢いで進むことを前提に行動する
・サイバー防御を共有責任として扱う

　フォーティネットは、今後もこのイニシアチブへの貢献を続け、追加的な洞察を共有して、AIにより高度化する脅威への理解 / 予測 / 対抗に取り組む組織を支援していきます。並行して、学術的な視点からの考察として、CLTCのブログもご覧ください。視点の異なる分析を組み合わせることで、AIがサイバー犯罪をどのように変化させているのか、それが将来の防御にどのような意味を持つのかが、より明確に示されます。また、進化する脅威の可視性を確保し、サイバー犯罪を無力化するための共同の取り組みを継続するうえで、官民連携がいかに重要であるかを理解できます。

■関連サイト

Fortinet トップへ