ESET/サイバーセキュリティ情報局
画像生成やChatGPTなど、サイバー攻撃に悪用されるAI技術
本記事はキヤノンマーケティングジャパンが提供する「サイバーセキュリティ情報局」に掲載された「AIを用いたサイバー攻撃とセキュリティ対策の関係性」を再編集したものです。
画像生成やChatGPTなどのAIが、さまざまな分野で話題となっている。サイバー攻撃への悪用や対抗するセキュリティ製品での利用も行されており、AIを用いた動向を解説する。
近年、画像生成やChatGPTなど、AIがさまざまな分野で著しく進歩し話題になっている。そんなAIだが、流行に便乗してAIを悪用する詐欺などの脅威が増している。しかし、それらに対抗するためにAIを活用したサイバーセキュリティ対策も同様に発展してきている。そこで、今回はAIを取り巻くセキュリティ動向について簡単に紹介する。
AI（人工知能）とは
AI（人工知能）とは、Artificial Intelligence の略称で、確立した定義はないが、人間の思考プロセスと同じような形で動作するプログラム、あるいは人間が知的と感じる情報処理・技術といった広い概念で理解されている（※1）。
AIという言葉自体は新しいものではなく1950年代から存在しており、過去にも何度かのブームを経ているが、2022年以降、機械学習やディープラーニング（深層学習）の技術を用いた新しい画像を生成する「画像生成AI」や、人との自然なコミュニケーションや文章の自動生成、要約、情報収集などができる「ChatGPT」の登場により、専門的な知識を持っていなくても活用できるAIが世界中で急速に普及し始めている（※2）。
※1：人工知能(AI：エーアイ)のしくみ
※2：AI（人工知能）とは何か？ 言葉の意味や定義から機械学習・ディープラーニングまでわかりやすく簡単に解説
AIを悪用した詐欺事例
AIがさまざまな分野で著しく進歩したことにより、その技術を悪用した事例も同様に増えている。その種類は多岐にわたるが、AIを悪用した詐欺の一例を以下に紹介していく。
| 手口 | 概要 | 悪用事例（関連記事） |
| フィッシング詐欺 | 偽の電子メールのリンクから、クレジットカード番号、アカウント情報（ユーザID、パスワードなど）といった重要な個人情報を盗み出す行為 | 説得力のあるフィッシング詐欺のメールを、AIが人間よりうまく“書く”時代がやってきた |
| ディープフェイク | 動画の中の人物の顔などの一部を入れ替える技術 | ディープフェイク悪用の犯罪が多発 オンライン面接やリモートが危ない？日本にも警鐘 |
| 音声詐欺 | 声のクローンを作成して悪用する行為 | AI（人工知能）を悪用した音声詐欺が世界で増加中 |
普段自身でAIを特に活用していない人にとってはあまり関係ないと思うかもしれないが、上記の通り、自身がAIを活用している・いないに関わらず、AIを悪用した被害に遭う可能性がある。
AIとセキュリティの関係性
近年、サイバー攻撃はますます高度化してきており、従来の「ルールベース」「シグネチャーベース」のセキュリティ対策による対処が難しくなってきている。
しかしながら、サイバーセキュリティ対策にAIを活用することによって、膨大なデータの処理が可能となり、ルールベースやシグネチャベースで発見できなかった脅威（ゼロデイ攻撃など）を防御できる可能性がある。そのため、AIとセキュリティは密接な関係にあるといえる（※3）。
AIを活用したサイバーセキュリティ対策
AIを活用したサイバーセキュリティ対策は未来の話ではなく、既にさまざまな製品やサービスで活用されている。技術の進歩とともに今後もAIを活用したセキュリティ製品も増えてくると思うが、一例を以下に紹介する。
| 製品・サービス | 主な適用対象 | 防御・検知できる対象 | 製品例 |
| EDR | PC、サーバー | マルウェアの振る舞いなど | CylanceOPTICS |
| WAF | 公開サーバー | 不正通信、DDoS攻撃など | Scutum |
| ウェブフィルター | PC | フィッシングサイトなど | ScoutDNS |
| メールフィルター | メール | フィッシングメールなど | あんしんクラウドメールフィルター |
これらの製品は、何らかのファイルやログを学習用データ、推論用データとして用いるものが多い。例えば、EDRやWAFでは正常通信のログを学習用データとして使用し、それ以降の運用時の通信ログを推論用データとして使用し、不正な通信を検知する。
そのほかの活用例として、ブラウザーのウェブフィルターではAIで既知の脅威との類似性を認識し、ゼロデイ攻撃への迅速な対応などが期待できることが挙げられる。メールフィルターではリアルタイムAI判定によるスパムメール検疫が可能で、大量に同様の配信を行っているメールやほとんどの人が望まない不快感を覚えるメールなどを検出できる。
なお、AIを活用したセキュリティ製品においては次のようなメリット、デメリットがある。
| メリット | ・人間が個別のルールを詳細に検討、実装することなく運用が可能である ・ゼロデイ攻撃などの未知の攻撃への対応に期待できる ・大量かつ複雑な、各種セキュリティ製品のログを相関分析できる ・データをもとにAIモデルが再学習（更新）され、多くの場合、性能が向上する |
| デメリット | ・「過検知・誤検知」（例：正常な対象が誤って不正な対象として検知される）が発生する ・「すり抜け」（例：不正な対象として検知すべきものを見逃す）が発生する ・検知や動作の理由を説明できない場合がある ・データをもとにAIモデルが再学習（更新）され、事象の再現性がなくなる |
最後に
本記事では、AIを取り巻くセキュリティ動向の一部を簡単に紹介した。
日々、AI技術が進歩していく中で「将来的に人の仕事はAIに奪われていく」といったことも言われている時代だ。しかしながら、セキュリティに関しては最終的に人のリテラシーに依存する部分もあるため、AIが人から学ぶだけではなく、人もAIを学んで持ちつ持たれつの関係になるのではないだろうか。
今後もAIがさまざまな分野で活用されていく中で、悪用されるケースもますます増えていくことが予想される。先に紹介したように自身がAIを活用している・いないに関わらず、AIを悪用した被害に遭う可能性があるため、脅威に対抗する１つの策として、継続的にAIの流行や情報をアップデートしてAIリテラシーを向上していくことが必要だろう。
AI時代の到来で気をつけるべきセキュリティ対策とは？
https://eset-info.canon-its.jp/malware_info/special/detail/200218.html