Ciscoが買収／統合した先進AI企業、これまでとこれからを聞く

「AIのセキュリティ」から「セキュリティのAI」へ　Robust Intelligence・大柴氏

　AIが各業界で急速に普及している一方で、サイバーセキュリティ分野ではその活用が大きく遅れている。この課題に取り組むべく、Ciscoは先に新組織「Foundation AI」を立ち上げた。この組織のベースとなったのは、Ciscoが2024年に買収したRobust Intelligence（ロバストインテリジェンス）である。

　2019年、米ハーバード大学在学中にRobust Intelligenceを共同創業した大柴行人氏に、「AIのセキュリティ」に取り組んで来た同社の歴史やCiscoとの統合、業界団体として立ち上げたAIガバナンス協会の現状、そしてこれから「セキュリティのAI」に取り組むFoundation AIについて聞いた。

Robust Intelligence 共同創業者／Cisco Director of AI Engineeringの大柴行人（こうじん）氏

“AI特有のセキュリティギャップ”を埋めるために起業

――大柴さんがRobust Intelligenceを立ち上げた経緯を教えてください。当時はまだ大学生だったそうですね。

大柴氏：日本で高校を卒業後、米国のハーバード大学に進学し、コンピューターサイエンス専攻で「AIのセキュリティ」について研究していました。2016年、17年ごろです。当時の指導教授だったヤロン・シンガー（Yaron Singer）教授と研究をしていたのですが、卒業時に「一緒に会社を作ろう」ということになりました。創業は2019年です。

　当時、深層学習（ディープラーニング）が流行するなど、AIがちょっとずつ世に出ていくタイミングでした。その一方で、AIのセキュリティについて考えている人はすごく少なかった。そのギャップを埋めようと、会社を立ち上げました。

――具体的にどういうところが“ギャップ”だったのでしょうか？

大柴氏：従来のサイバーセキュリティと、AIのセキュリティには大きな違いがあります。

　AIの特徴を考えていただけると分かりやすいと思います。従来のソフトウェアシステムでは、インプットに対するアウトプットは決定論的に行われます（※同じインプットに対しては常に同じアウトプットが返される、という意味）。これに対してAIは、同じことを聞いてもそのつど返ってくる答えが違ったり、聞き方を少し変えるだけでまったく違う回答をしたりします。これはAIが非決定論的なシステムだからです。

　こうしたAIの性質を悪用して、AIにいろいろな聞き方で質問を繰り返したり、幅広いデータをインプットしたりすることで、開発者が想定していないふるまいをさせる攻撃が実現してしまいます。たとえば、不正確な回答をさせたり、接続されているデータベースから機密データを抜き出したりといったものですね。こうした攻撃手法は、一般的なシステムへのサイバー攻撃とは大きく違います。

　我々は、AIのこうした特性をふまえつつ、AIを安全にすることに取り組んできました。

同社Webサイトより

目標達成に必要な要素を手に入れるためにCiscoと合併

――2019年に創業したRobust Intelligenceですが、2024年10月にはCiscoによる買収に合意しています。独立企業として続ける道、Cisco以外の企業と統合する道など、選択肢はいくつかあったと思います。Ciscoとの統合を選んだ理由を教えてください。

大柴氏：Ciscoとの合体により、Robust Intelligenceで感じていた課題を補うことができる、と感じたからです。

　我々は、エンタープライズのお客様にAIのセキュリティ製品を導入することに取りんできましたが、ネットワークとの親和性がいいということがわかってきました。AIは既存のソフトウェアのインフラや、ネットワークのインフラにデプロイされます。「ChatGPT」のようなAIのサービスを使う場合、社内のネットワーク環境を通してアクセスをしたり、リモートからアクセスします。

　また、我々のシステムは「入力されたデータ」は分かりますが、それを入力したのがどういう人か、どのIPアドレスで、どういうデバイスで、どの地域から入力したのかといった、伝統的なサイバーセキュリティの情報に関しては持ち合わせていません。一方で、Ciscoのシステムならばそれが分かります。

　つまり、AIのセキュリティを実現するうえでは、Robustが持つAIセキュリティのコア技術だけでなく、サイバーセキュリティの要素やネットワークインフラの要素と組み合わせることが必要でした。そうでなければ、エンタープライズのお客様を守ることはできません。これらをうまくバンドルして、「スイッチをオンにするだけでお客様がAIセキュリティを導入できるような世界」を、スタートアップのときから考えていました。

　（買収は）数社からお話をいただきましたが、「ネットワーク」と「セキュリティ」の両方を持つのはCiscoしかない。我々は必要なものを取り入れて目標を実現したい、CiscoはAIの時代に向けてセキュリティを提供したい――。こうした2社の思いがバッチリとはまったことが、一番の大きな理由です。

　買収当時、Robustは65人程度でしたが、共同創業者のヤロンも含め、Ciscoに移籍しています。