ミッションクリティカルAI実現を目指すコーピー、NEDO事業「AIセーフティ強化に関する研究開発・検証等の推進事業／AIセーフティ強化に関する研究開発」の成果を公開

株式会社コーピー
― ISO/IEC 42001に整合した生成AI安全性評価プロトコルと実装ガイド・評価テンプレートを開発、公開―




XAI&QAAI技術でミッションクリティカルAI実現を支援する東京大学・フランス国立情報学自動制御研究所（Inria）発AIスタートアップの株式会社コーピー（本社：東京都千代田区、代表取締役：山元浩平、以下「コーピー」）このたび当社は、国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO）の事業「AIセーフティ強化に関する研究開発・検証等の推進事業／AIセーフティ強化に関する研究開発」において、2025年4月より取り組んできた、生成AIの安全性評価における「運用計画・管理の観点からの企業向け実装解説の作成」の研究開発成果をこのたび公開いたしましたのでお知らせいたします。

■ 本取り組みの背景：生成AIの安全性確保と国際標準への対応が急務に
生成AIの急速な普及に伴い、ハルシネーション（事実と異なる出力）、プロンプトインジェクション（悪意ある入力による誤動作）、有害コンテンツの生成といった安全性に関するリスクが社会的な課題となっています。欧州ではEU AI Actが段階的に施行されるなど、国際的なAI規制の動きも加速しており、日本国内の企業においても、AIの安全性を体系的に管理・評価する体制の整備が強く求められています。
こうした中、AIマネジメントシステムの国際規格であるISO/IEC 42001は、組織がAIリスクに対応するための枠組みを提供しています。しかし、同規格は具体的な安全性評価の手法や基準を規定しておらず、「何をどの順序で評価すべきか」は各組織に委ねられているのが現状です。

■ 研究開発の概要と成果
コーピーは本事業において、ISO/IEC 42001の要件と生成AIの安全性評価の実践との間に存在する実務的な"ギャップ"を埋めることを目的に、以下の成果物を開発しました。
成果物１.：報告書「AIマネジメントシステムに基づく生成AI安全性評価プロトコルとその実装ガイド」
ISO/IEC 42001に整合した生成AIの安全性評価プロトコルを、3つのフェーズ（分析・テスト・報告）で体系化した実装ガイドです。リスクアセスメントからテスト計画の策定、評価の実施、報告書作成に至るまでの一連のプロセスを、実務者が具体的に把握できるよう整理しました。視覚言語モデル(*1)を用いた仮想的な顧客サポートシステムを題材に、ジェイルブレイク攻撃(*2)に対する統合テスト(*3)やデータポイズニング検知(*4)のための単体テスト(*5)など、具体的な評価事例も示しています。
また、リスクアセスメントにおける「アクセス」と「エージェンシー」(*6)の概念、安全性評価にLLM-as-a-Judge(*7)を用いる際の「暴露マッピング」(*8)、サプライチェーン管理における「信頼の連鎖」(*9)など、実務上の重要な概念についても問題提起と例示を行いました。
成果物２.：生成AI安全性評価テンプレート（記載例付き）
評価プロトコルの各ステップに対応する記録用テンプレートです。ビジネス状況分析からステークホルダー分析、システム構造分析、リスクアセスメント、リスク対応計画・適用宣言書、テスト計画、テスト方法、テストに用いる資源など、全工程をカバーしています。
仮想的なチャットボットシステムを想定して、具体的な記載例を付しており、企業が自社のAIシステムに適用する際の参考としてご活用いただけます。

■ 成果物の特徴
本成果物の主な特徴は以下の通りです。
・ISO/IEC 42001との整合性：AIマネジメントシステム規格の要件から出発し、生成AIの安全性評価に落とし込むまでのプロセスを明示
・3フェーズの体系的評価プロトコル：分析（PA）→テスト（PB）→報告（PC）の明確なステップ
・実践的な評価事例：視覚言語モデルを用いた具体的なテストシナリオを提示
・テンプレート：評価プロトコルと対応する形で活用可能な記録用フォーマット

■ 成果物の公開について
成果物１.および２.は、以下のリンクよりダウンロードいただけます。
https://corpy.app.box.com/s/fijqk4vu4nawvl15mxyt809xh3sp3jkq
・１. 報告書（日本語版・pdf形式）
・２. 評価テンプレート（記載例付き・xlsx形式）
※成果物は著作権の帰属確定後、クリエイティブ・コモンズ 表示 4.0 国際（CC BY4.0）ライセンスの下での公開を予定しています。

■ 今後の展望
コーピーは、本事業で得られた知見を活かし、AIの安全性評価技術の国際標準化と社会実装への貢献を続けていきます。ISO/IEC 42001をはじめとするAIマネジメントシステム規格に準拠するためのアプローチを普及させ、企業が安心してAIを活用できる環境の整備を支援することで、「ミッションクリティカルAI」の実現を加速させてまいります。

【本事業について】
事業名：AIセーフティ強化に関する研究開発・検証等の推進事業／AIセーフティ強化に関する研究開発
事業主体：国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO）
実施体制：国立研究開発法人産業技術総合研究所（産総研）、株式会社Citadel AI、株式会社コーピー
コーピー担当テーマ：運用計画・管理の観点からの企業向け実装解説の作成
実施期間：2025年4月～2026年3月

【用語注釈】
*1 視覚言語モデル（VLM: Vision-Language Model）：画像とテキストの両方を理解・処理できるAIモデルの総称。画像を見て質問に回答したり、画像の内容を説明したりすることが可能。
*2 ジェイルブレイク攻撃：AIに設定された安全上の制約を巧みな指示文（プロンプト）で回避し、本来は拒否されるべき有害な出力を引き出そうとする攻撃手法。
*3 統合テスト：システムの複数のコンポーネント（部品）を組み合わせた状態で、全体として正しく動作するかを検証するテスト。ここではAIシステム全体としての安全性を確認する。
*4 データポイズニング（データ汚染）：AIの学習データに意図的に不正なデータを混入させ、AIの判断や出力を誤らせる攻撃手法。
*5 単体テスト：システムの個々のコンポーネント（部品）を単独で検証するテスト。ここでは特定の安全性項目を個別に評価する。
*6 アクセスとエージェンシー：リスク評価における2つの重要な観点。「アクセス」はAIシステムがどのようなデータや機能に接触できるか、「エージェンシー」はAIがどの程度自律的に判断・行動できるかを意味する。両者が高いほどリスクも大きくなる。
*7 LLM-as-a-Judge（LLMによる自動評価）：大規模言語モデル（LLM）を「評価者」として活用し、AIの出力の安全性や品質を自動的に判定する手法。人手による評価の負担を軽減しつつ、一定の評価精度を確保する。
*8 暴露マッピング：AIシステムが外部からの攻撃や不正利用にさらされる可能性のある箇所（暴露面）を体系的に洗い出し、可視化する手法。
*9 信頼の連鎖（Chain of Trust）：AIシステムのサプライチェーン（開発・提供の各段階）において、学習データ、モデル、ツールなどの各要素の信頼性が途切れなく確保されていることを確認する考え方。一箇所でも信頼が損なわれると、システム全体の安全性に影響する。

■ コーピー（Corpy&Co.）について
「先端AI技術で人命を救い、平等を拡張する」ことをミッションに、失敗の許されないミッションクリティカル領域におけるAI導入を目指し、サービスを展開している東京大学・仏Inria発AIスタートアップです。AIの実運用で必須となる品質保証に焦点を当て、XAI(説明可能AI)技術を用いた説明性向上や、QAAI(AI向け品質検証)技術を用いた実環境における頑健性・脆弱性検証などを行う包括的アルゴリズムの開発とソリューション提供を行っています。また、国立研究開発法人新エネルギー・産業技術総合開発機構(NEDO)の「AIセーフティ強化に関する研究開発」事業において、生成AIを適切に管理・利用するために必要となるAIセーフティ基準の策定・普及とAIセーフティ評価・管理技術の開発に取り組んでいます。

会社名：株式会社コーピー（Corpy & Co., Inc.）
設　立：2017年 3月
本社所在地：東京都千代田区神田神保町1-44-11
代表取締役： 山元 浩平
ウェブサイト：https://corpy.co.jp/

■本プレスリリースに関するお問い合わせ
株式会社コーピー 広報担当：[e-mail]