Black Hat USA 2023 & DEF CON 31レポート
賞金付きで技術革新を加速させる狙い、生成AI企業のAnthropic、Google、Microsoft、OpenAIも支援
AIによる脆弱性自動修正システム、DARPAが大規模競技会を開催へ
2023年09月05日 08時00分更新
脆弱性自動修正システムの競技大会「AI Cyber Challenge（AIxCC）」の開催が発表された
米国防省の研究部門であるDARPA（米国防高等研究計画局）が2023年8月、ソフトウェア脆弱性の自動修正システム競技大会「AI Cyber Challenge」（AIxCC）開催を発表した。競技大会をサポートするのは、生成AIのトップ企業であるAnthropic、Google、Microsoft、OpenAIの4社だ。
AIxCCは、丸2年間をかけて行われる大がかりな大会となっている。まず来年（2024年）5月に予選を行い、上位20チームが8月のセキュリティイベント「DEF CON 32」併催の準決勝大会に進出。その上位5チームには開発資金200万ドルが与えられ、再来年（2025年）8月の「DEF CON 33」で決勝大会が開催される。優勝チームには400万ドル、2位には300万ドル、3位には150万ドルの賞金が授与される。
AI Cyber Challengeのロゴマーク
AI Cyber Challengeのスケジュール。決勝大会は2年後に開催される
DARPAは、先進的な技術革新の推進／促進を目的に研究開発を支援する米政府組織である。そんな彼らが、研究開発を加速させる手段のひとつとして実施しているのが「賞金付きのチャレンジプログラム」だ。
制約の多い補助金制度ではなかなか難しい高リスクで冒険的な試みについて、あえて賞金を設定することで、幅広い領域の専門家の耳目を集め、チャレンジを促すのがその狙いだ。過去にも、自動運転車レース「DARPA Grand Challenge」、インターネットとSNSの可能性を探る赤い風船探しレース「DARPA Network Challenge」、防災救助用ロボットコンテスト「DARPA Robotics Challenge」など、多数のチャレンジプログラムを開催してきた。
発表当日に開幕したセキュリティカンファレンス「Black Hat USA 2023」の基調講演では、DARPAのAIxCCプログラムマネージャー、ペリー・アダムス氏がサプライズ登壇。自身も学生時代、セキュリティの知識や技術力を競うCTF（Capture the Flag）で、チーム「RPISEC」の一員としてDEF CON CTFの決勝に出場した経験を持つ。
「“競技”という形式は、多様な才能が一丸となって問題解決に取り組むという点で、イノベーションを加速する仕掛けとしてぴったりだ」とアダムス氏は語る。AIxCCにおいても、「AIを活用して攻撃側の先手を打つことのできる防御システムが誕生するかもしれない」と述べた。
DARPA Information Innovation Office プログラムマネージャーのペリー・アダムス（Perri Adams）氏
AIxCCへの参加条件は、チーム内に米国籍の人が少なくとも1人いること。また決勝出場チームは、開発したシステムをオープンソースソフトウェア（OSS）としてOpen Source Initiativeに寄贈（コントリビュート）することが必須となる。
参加方法は「Open Track」と「Funded Track」の2つがある。Open Trackは、公式サイトから申し込むだけの自由参加型で、応募期間は2023年11月1日から12月15日まで。一方のFunded Trackは、スタートアップなど中小企業の研究開発などを支援する補助金制度「Small Business Innovation Research」から最大100万ドルの補助金を受けて参加する方法。こちらの対象は米国に拠点を置く中小企業で、プロポーザル申請は8月17日から9月19日までの期間。審査を通じて、最大7社が選抜される。
■AIxCC開催を通じて期待される「AIの『公共善』」実現
AIxCCの競技内容の詳細はまだ明かされていないが、2016年8月にDEF CON内で開催されたコンテスト「Cyber Grand Challenge」を踏襲するものと予想される。Cyber Grand Challengeでは、運営側から提供されたサーバーの脆弱性の検出、修正、攻撃からの防御といった作業をすべて自動で実行する自動化システムを開発し、その精度を競うものだった。
2016年開催の「Cyber Grand Challenge」の様子
2016年当時と大きく異なる点があるとすれば、急速に進化した生成AIの存在だ。協力企業に生成AIのトップ企業が名を連ねていることからも、今回は生成AIのテクノロジーが大きな役割を果たすことは想像に難くない。
「AIはコードを読んだり生成したりすることが得意だ」と、Anthropicで地政学およびセキュリティ政策部門責任者を務めるマイケル・セリット（Michael Sellitto）氏は話す。元OpenAIのメンバーが創業した生成AI開発のユニコーン企業、Anthoropicは、OpenAI、Google、Microsoftとともに業界団体「Frontier Model Forum」を設立、安全かつ責任あるAIモデルの研究と開発の推進を目指している。
セリット氏は「社会や経済、教育など幅広い分野でAIは貢献すると信じている」と述べ、今回の競技会が“AIのリスク”に対する懸念を払拭するきっかけになることにも期待を寄せる。
システム開発アドバイザーとして参加者をサポートするLinux Foundation、Open Source Security Foundationのジェネラルマネージャー、オムカー・アラサラトゥナム（Omkhar Arasaratnam）氏も「AIは最近登場したばかりの、ゲームチェンジャーツールのひとつにすぎない」と、AIのリスクを過剰に恐れる議論を一刀両断する。ただし「本質的にAIには“善悪”の観念が存在しない」、だからこそ人間がどう活用するのかが問われていると続けた。
「AIxCCはまさに『公共善』のための取り組みだ。AIを通じてOSSなどの脆弱性を自動修正し、そうしたOSSを採用する数多の重要インフラの安全性を高めることができれば、世の中は今よりも少し良くなるはず」（アラサラトゥナム氏）
DARPAのアダムス氏は「本大会の意義がよく分かる」コメントとして、国家安全保障会議のサイバーセキュリティ担当で副国家安全保障顧問、アン・ノイバーガー（Anne Neuberger）氏の言葉を紹介した。
「“プログラマーは自然が嫌い。だって、バグ（虫）だらけだから”というサイバーセキュリティの古いジョークがある。AIxCCを通じて多くのバグが自動修正される世界が来れば、そんなジョークを言う人もいなくなるだろう」
