激しいAI開発競争の裏側で、サイバー脅威も進化している
2025年初頭、米国政府は国家プロジェクト「Stargate」を始動させ、今後4年間で5,000億ドル（約74兆円）をAIインフラの整備に投じると発表した。中国のアリババもまた、3年間で約520億ドル（約7兆円）をクラウドコンピューティングとAIに投資すると表明。こうした巨額の資金が、才能ある人材を呼び込み、AIの技術革新をかつてない勢いで加速させている。
加速し続けるAI開発競争は、もちろん産業界だけに影響を与えるものではない。むしろ、最も鋭く反応しているのは、サイバー空間で暗躍する攻撃者たちだ。AIという最新の技術を、誰よりも柔軟かつ創造的に使いこなすのが、彼ら“ハッカー”かもしれない。
セキュリティベンダー・Check Point Software Technologiesのリサーチ部門、Check Point Research（CPR）で脅威情報リサーチを統括するオデッド・ヴァヌヌ氏は、「ハッカーこそが、サイバー空間のリズムを支配している（主導権を握っている）」と断言する。新たな攻撃手法を次々と編み出すのは攻撃者たちの側であり、防御側は常にその後を追いかける構図になっているからだ。
Check Point Researchのリサーチャー、オデッド・ヴァヌヌ（Oded Vanunu）氏
さらにAIの進化は、攻撃者と防御者の力関係をも塗り替えようとしている。従来、脅威は人間（攻撃者）の手で設計され、人間（防御者）の判断に基づき対応がなされてきた。しかし、すでに脅威の生成も、対応の判断も、人間ではなくAIが担う時代が目前に迫っている。AIにより自動化されたサイバー攻撃が、広範囲に、かつ精密に展開されるようになれば、防御側もAIという武器を手に戦わざるを得なくなるだろう。
この記事では、2025年2月にバンコクで開催されたCheck Pointの年次カンファレンス「CPX 2025」の現地取材に基づき、AI時代に激しさを増す「サイバー攻防の最前線」を紹介する。
「4つのフェーズ」で進化する、サイバー攻撃のAI活用
生成AIの登場によって、従来のハッキング技法は根本から変わりつつある。ヴァヌヌ氏は、攻撃者によるAI活用が「いままさに進化の真っただ中にある」と語り、“4段階の進化フェーズ”を示した。
第1フェーズは、ハッキング支援ツールとしてのAI活用だ。攻撃者は、LLM（大規模言語モデル）とチャットで対話しながら、攻撃シナリオを練り上げる。ChatGPTをはじめとする一般的な生成AIでは、違法行為や非倫理的な質問には回答しないように制限がかけられている。だが、攻撃者向けのLLM／AIツールではそうした制限が取り除かれており、サイバー攻撃をサポートしてくれる。
そうしたツールの代表例としては「FraudGPT」が挙げられる。2023年夏ごろから出回るようになったFraudGPTは、悪用を防ぐ制限を取り除いた“解放型LLM”として設計されており、フィッシングメールの文面、詐欺サイトのテンプレート、マルウェアやハッキングツールの作り方など、幅広い質問に答えてくれる。その学習ソースには、漏洩したデータやコードも含まれており、「こんなシェルコードが欲しい」「バックグラウンドでキーロガーを動作させたい」などと質問すれば、即座にそれに対応したコードや手法が提示される。
サイバー攻撃を支援するAIツールは、「FraudGPT」だけでなく多数が登場している
第2フェーズでは、C2サーバーの役割を担うLLMが、フィンガープリントを持たない“無形質のペイロード（amorphic payload）”を操り、感染先の状況に応じて自らの挙動や形を変えながら攻撃を進行させるという。たとえば、Webサーバーに侵入した後、自動的にActive Directoryを探索し、そこを攻撃する内容のコードへと書き換えるといった具合だ。
第3フェーズになると、標的に合わせてAIが“ゼロデイ攻撃をあつらえる（オーダーメイドする）”ようになるという。従来のゼロデイ攻撃では、一般に普及している汎用的なミドルウェア（OpenSSLなど）やOSサービスの脆弱性が悪用されていたが、これは違う。AIが、標的とする企業が独自開発した業務アプリケーションなどの内部ロジックにある欠陥を自動で見つけ出し、ピンポイントでゼロデイ攻撃を仕掛けるようになる。
そして、最終段階の第4フェーズでは、攻撃側と防御側の双方にAIが導入され、完全に自動化された「AI対AI」のサイバー戦争が展開される。こうなると、人間の意思決定スピードでは到底追いつけなくなり、お互いのAIがリアルタイムで判断・応答し合う構図が現実のものとなる。
「いまはまだ、第1フェーズにある。だが、特に生成AIの登場によって、洗練されたサイバー攻撃を構成しやすくなった。“サイバー犯罪の民主化”が起きたとも言える。22年近くにわたって脅威インテリジェンスの調査・研究に携わってきた人間の肌感覚として、（最終段階の）フェーズ4には、早ければ5年以内、遅くとも10年以内に到達するだろう」（ヴァヌヌ氏）
