AIを活用したサイバー犯罪が急増！ 官民連携でサイバー防衛を強化へ

文●フォーティネットジャパン　編集●ASCII

提供: フォーティネットジャパン

  • この記事をはてなブックマークに追加
  • 本文印刷

本記事はフォーティネットジャパンが提供する「FORTINETブログ」に掲載された「カリフォルニア大学バークレー校の長期的サイバーセキュリティセンター（CLTC）との連携により、AIを活用したサイバー犯罪のインサイトを提供」を再編集したものです。

　過去1年にわたり、AIを活用したサイバー犯罪に関する議論は、影響についての憶測から、現実世界の観測にシフトしました。悪意のある行為者は引き続き、自身の利益のためにAIを活用する方法を模索しており、その結果、脅威の数量とスピードが増大し、サイバーセキュリティコミュニティは、常に警戒している状況です。

　防御者として、AIが脅威に与える影響を認識し、この新しいテクノロジーの登場に起因する変化に対応するための戦略を理解することが重要です。巧妙化するサイバー犯罪活動に対抗するには、AIを活用した脅威を減災するための実践的なトレーニングを受けることが次の重要なステップです。

机上演習やワークショップなどを通じて、AIを活用したサイバー犯罪を探求

　AIを活用したサイバー犯罪に対抗するには、防御者としてこの変化する状況に対応するだけでなく、官民セクターを横断した連携が重要な役割を果たします。フォーティネットは長年にわたり、カリフォルニア大学バークレー校のCLTC（Center for Long-Term Cybersecurity：長期的サイバーセキュリティセンター）とパートナーシップを結んでおり、新たな取り組みで、CLTC、BRSL（Berkeley Risk and Security Lab：バークレーリスクおよびセキュリティラボ）、および他の組織と協力できることを嬉しく思います。

　この取り組みは、「AI-Enabled Cybercrime: Exploring Risks, Building Awareness, and Guiding Policy Responses（AIを活用したサイバー犯罪：リスクの調査、意識の向上、政策対応ガイド）」と呼ばれ、一連の机上演習（TableTop eXercise：TTX）、調査、ワークショップ、インタビューで構成されており、これらすべてに、世界中の対象領域の専門家が関与し、調査結果は、一般向けのレポートとその後のプレゼンテーションの形で共有されます。このプロジェクトは、現実世界のシナリオをシミュレートして、AIを活用したサイバー犯罪の動向を明らかにし、防御者の理解を深め、最終的には、将来を見据えた防御戦略を展開することができます。

参入障壁の低下による脅威の増加

　我々は、カリフォルニア大学バークレー校で2024年12月に開催された、サイバーセキュリティの専門家、法執行機関、および業界のエキスパートによる取り組みのキックオフとなる最初の机上演習（TTX）に参加しました。机上演習では、AIを活用したサイバー攻撃の新たなトレンドを探り、進化する脅威ランドスケープの予測について議論しました。

　サイバー犯罪者は、AIを活用することで、コンテキストを考慮したカスタマイズされたフィッシングメールを個別に生成したり、説得力のある偽の声や動画を作成してソーシャルエンジニアリング攻撃を強化したり、偵察活動を効率化することができます。これらすべては、実際の攻撃ベクトル（手口）を意味しますが、サイバー犯罪に対するAIのインパクトについて、同グループ全体の最も重大な所見の1つは、このAIテクノロジーの台頭により、初心者の参入障壁が、経験豊富な脅威アクターと同様に低下したことです。

　AIを利用することで、既存の犯罪者は、サイバー犯罪への移行が容易になる一方で、コーディングやハッキングツールの知識をほとんどまたはまったく持たない個人でも、最小限の労力で悪意のあるコードを作成することができます。AIによって、技術的な障壁が低減することで、サイバー犯罪者の能力が「強化」され、利用が容易になりました。

AIを活用したサイバー犯罪の注目すべき5つのトレンド

　同グループは、机上演習および関連する議論の中で、将来的に顕著になると予測されるAIを活用したサイバー犯罪に関連する重要なトレンドについて、次のように指摘しました。

1．ディープフェイクとソーシャルエンジニアリングの増加：ディープフェイク技術は、以前は経験が浅いサイバー犯罪者には手が届かないものでしたが、現在は利用が容易になりました。例えば、悪意のある行為者は、YouTubeの映像と安価なサブスクリプションを使用して、声を複製することができます。AIを利用した編集ツールが幅広く入手可能になるにつれて、なりすまし攻撃の数量は増加すると思われます。また、声や動画のなりすましも、Ransomware-as-a-Service（サービスとしてのランサムウェア）の状況と同様に、サイバー犯罪者によってアズ・ア・サービス・モデルになり、「オンデマンドによるディープフェイク生成」サービスが提供されることが予想されます。

2．超標的型フィッシング：フィッシング攻撃は現在、局所化、個別化が進み、説得力がますます向上しています。脅威アクターは、偵察活動をサポートするためにAIを活用することで、現地の言語に合わせて調整され、場合によっては地域固有の休日や習慣、イベントを引用したコンテキトに富み文化的に関連するフィッシングメールを作成できるようになります。その結果、これらのメールのやりとりは、しばしば正当なものに見え、サイバー意識の非常に高い受信者でも、騙される可能性があります。

3．マルウェアおよび偵察用のAIエージェント：サイバー犯罪者間でのAIエージェントの利用は急速に発展すると思われます。例えば、サイバー犯罪グループは、複数のAIエージェントを管理し、これらすべてが、人間が実行するより迅速に、サイバーキルチェーン（サイバー攻撃の過程）の一部を実行するようになります。将来的に、敵対者は、ボットネット内にAIエージェントを展開して、CVE（共通脆弱性識別子）の脆弱性を積極的に発見するなど、さまざまな活動にAIを利用することが予想されます。

4．AIを利用した本人情報により、内部脅威が増大：同グループは、机上演習の中で、攻撃者は、AIを活用して本人情報を作成し、テクノロジー企業のテレワークに応募し、捏造された経歴によって、標準的な経歴チェックに合格するシナリオについて議論しました。不正行為者によるAIの利用の探求が進むのに伴い、企業や組織は、採用に関連する審査プロセスを再検討し、更新する必要があります。

5．脆弱性のスキャンと悪用の自動化：現在、サイバー犯罪者は主に、偵察や初期侵入の支援のためにAIを利用していますが、近い将来、不正行為者はAIを活用して、脆弱性を発見して悪用するようになることが予想されます。AI対応ツールを利用すると、短時間で大量のコードをスキャンして、ゼロデイ脆弱性やNデイ脆弱性を特定し、その脆弱性を自動的に悪用することができます。

　AIを利用するサイバー犯罪者に対応するには、セキュリティチームは、適切なテクノロジーとプロセスを導入して、組織の防御を強化する必要があります。防御者は、AIを利用することで、大量のデータを迅速に解析したり、テクノロジーを活用して異常なパターンを特定したり、インシデントレスポンスアクションを自動的に選択するなど、さまざまな方法で自身の企業を保護することができます。また、AIを活用したサイバー犯罪の増加により、全社的なサイバーセキュリティトレーニングと教育プログラムが、効果的なリスク管理戦略の重要な要素となっています。従業員は、ソーシャルエンジニアリングやフィッシング攻撃の最前線にいることが多く、特に、サイバー犯罪者によるコンテキトを考慮したメールのやりとりが増えるのに伴い、組織内のすべての個人が、攻撃の試行を特定する方法を理解することが重要になっており、サイバーハイジーン（セキュリティ対策）とトレーニングが不可欠になっています。

官民の連携によりAIを利用したサイバー犯罪を減災

　私たちの共通の敵対者がAIなどの最新テクノロジーを利用して活動を進化させる中、サイバー犯罪の活動を阻止するには、カリフォルニア大学バークレー校のCLTC（Center for Long-Term Cybersecurity：長期的サイバーセキュリティセンター）とBRSL（Berkeley Risk and Security Lab：バークレーリスクおよびセキュリティラボ）が率いるこの取り組みのような官民連携が不可欠になっています。

　コラボレーションを通してインテリジェンス情報を共有することで、脅威の迅速な検知、および巧妙な攻撃に対するより協調的な対応につながります。統一的なアプローチによってサイバー犯罪に対抗することで、すべての組織のサイバーレジリエンスが強化され、必要なリソースへのアクセスが大きく向上し、個々の企業を効果的に保護することができます。

■関連サイト

Fortinet トップへ