買収したRobust Intelligenceの技術も取り入れ、AIを「使う」「開発する」企業に保護手段を提供

なぜAIにセキュリティが必要か　「Cisco AI Defense」担当幹部に聞く

　セキュリティを重要なビジネスの柱の1つに掲げるCiscoが、2025年1月、AIアプリケーション向けのセキュリティソリューション「Cisco AI Defense」を発表した。

　“アプリケーション層とデータ層の間にAIモデル層が存在する”というAIアプリケーションの特徴に注目し、買収したRobust Intelligenceの技術も取り入れて、モデルの安全性を確保するなどの機能を持つ。

　「AI時代にはセキュリティを根本から刷新しなければならない」と語るのは、CiscoのAIソフトウェア・プラットフォーム担当SVPのDJ・サンパス氏だ。サンパス氏に、シスコが考えるAIセキュリティの展開について聞いた。

CiscoのAIソフトウェア・プラットフォーム担当SVPのDJ・サンパス（DJ Sampath）氏

企業におけるAIの「利用」「開発」の両方を守るCisco AI Defense

――Ciscoは2025年1月にAI Defenseを発表しました。AI Defenseには「AI開発者の保護」「AIユーザーの保護」という2つの側面があります。一般に、ニーズが高いのはどちらのほうでしょうか。

サンパス氏：一般的な企業では、AI導入の初期段階には生産性向上を目的にAIを「使う」ケースが多く、AI利用が成熟するにつれて、AIアプリケーションを「開発する」ほうへと拡大していく。

　たとえば、3月にCiscoとAIガバナンス分野での協業を発表したNECは、自社でLLMも構築しており、わずか数パーセントのAI先進企業に入る。このような企業では、社内で推進しているすべてのAIの取り組みを保護し、安全性を確保するためにAI Defenseのような製品を必要としている。

　そこまで先進的ではないものの、オープンソースで公開されているモデルの活用を進める企業も増えている。「Hugging Face」などからオープンソースモデルをダウンロードし、自社のニーズに合わせたAIアプリケーションを自社環境内に構築する例もあれば、Google、AWS、Microsoft Azureといったクラウドサービスがホスティングするモデルを利用する企業もある。

　もちろん、大多数の企業はAI利用の初期段階であり、「ChatGPT」「Microsoft Copilot」などのクラウドAIツールを「使う」フェーズだ。しかしここでも、「データ保護」という観点でセキュリティ対策が必要となる。

　最大の懸念点は、機密データが外部に漏洩しないかということだ。加えて、予期しないかたちでの内部不正も考えられる。たとえば、CopilotのようなAIツールを利用する企業で、従業員がAIの脆弱性を見つけて、ほかの人の給与やPII（個人識別情報）、クレジットカード情報などのデータをAIから引き出す、といった事故も起こりかねない。

　そこで、すべての活動を監視してAIを安全に使えるようにすること、独立した第三者による制御機能を持つことが重要になる。Ciscoには“ゼロトラスト”の観点からユーザーを保護する「Cisco Secure Access」があり、この機能とAI Defenseを組み合わせることで、AIを安全に利用するためのソリューションを提供する。

Cisco AI Defenseは、企業におけるAIの「利用」「開発」の両方をカバーする

――Ciscoは2024年にRobust Intelligenceを買収しました。AI DefenseにはRobust Intelligenceの技術が組み込まれているそうですが、Robust Intelligenceの買収の背景と、その技術がAI Defenceでどう活用されているのかを教えてください。

サンパス氏：企業買収にはいくつかのパターンがあるが、Robust Intelligenceの場合は「技術と人材の獲得」が最大の目的だった。Robust Intelligenceは、AIの安全性とセキュリティという課題に長く取り組んでおり、この分野でトップレベルの人材が集まっているスタートアップだ。彼らが発表した論文は高く評価されており、この分野のリーダーと見なされている。そうしたチームと、Ciscoのセキュリティ研究者、コンプライアンスの専門家などが協業することで、“1＋1＝10”の大きな成果を生み出すことを目指している。

　AI Defenseでは、Robust Intelligenceが開発したレッドチーミングや検証などの技術、アルゴリズムを組み込みました。レッドチーミングは、AIに対して大量の“意地悪なテスト”を実行することで、リスクがどこにあるのかを見つけるという手法だ。

　それだけでなく、Ciscoの脅威インテリジェンスであるTalos、分析ツールのSplunk、レポート機能などを組み合わせた。Talosはエンドポイント、DNSリクエスト、悪意あるメールなど、1日に5000～6000億件のシグナルを分析している。この情報を抽出し、すべての製品に対して脅威インジケーターとシグナルを提供する。さらに、Splunkとのシームレスな統合により、AI Defenseで表示されるすべてのアラートやイベントは、Splunkでも表示、管理ができる。

　Ciscoの企業顧客、20万社以上に対してこうした高度な技術を提供できる。Robust Intelligenceにとっても、こうしたスケールで技術を展開できることは大きな価値だろう。