東大・仏Inria発AIスタートアップのコーピー、最先端のXAI&QAAI技術をベースとしたAI運用・品質管理プラットフォーム「CONFIDE」をプレローンチ　～ 約1億円の資金調達も実施 ～

株式会社コーピー
XAI&QAAI技術でミッションクリティカルAI実現を支援する東京大学・フランス国立情報学自動制御研究所（Inria）発AIスタートアップの株式会社コーピー（本社：東京都文京区、代表取締役：山元浩平）は、AI品質保証研究の第一人者である国立情報学研究所の石川冬樹氏と、XAI研究の第一人者である大阪大学の原聡氏を技術顧問に迎え、ドメイン特化AIの運用・品質管理を簡単に行うことが可能なサービス「CONFIDE（コンファイド）」をプレローンチいたしました。 また、これにあわせて最先端のXAI&QAAI技術を用いた包括的なAI開発・運用・品質検証コンサルティングの提供を開始いたしました。 加えてこの度、DEEPCORE、Deep30、その他金融機関から合計1億円強の資金調達を実施いたしました。今回調達した資金を元に人材を拡充し、「CONFIDE」の正式版ローンチと事業者への導入を推進し、ミッションクリティカル領域へのAI導入に貢献してまいります。






■ドメイン特化AIの運用・品質管理プラットフォーム「CONFIDE（コンファイド）」
「CONFIDE（コンファイド）」は、当社が研究開発を重ねてきたXAI・QAAI技術をベースとした、ドメイン特化AI（※）向け運用・品質管理プラットフォームです。XAI（eXplainable AI）とは、ブラックボックスになりがちなAIの判断根拠を説明可能にする技術の総称で、QAAI（Quality Assurable AI）は、AIシステムに特化した品質検証技術と品質保証プロセスを指します。「CONFIDE」では、品質検証技術や品質管理プロセスの知見をドメインごとにバーティカルに蓄積することで、それぞれのドメインで求められるAIシステムの運用・品質管理が容易にできるようになっています。

※　ドメイン特化AIとは、製造業における外観検査AIや、自動走行における物体検知AI、DXにおける手書き文字認識AIなど、特定のドメインに特化したAIを指します。AIシステムの運用・品質管理は、基本的な部分はあらゆるドメインに渡って共通するものの、多くの部分が各ドメインごとに固有であるため、ドメインごとに技術や知見を蓄積していく必要があります。

■XAI＆QAAI技術を用いたAI開発・運用・品質管理コンサルティングサービスの提供
当社が蓄積しているXAIやQAAI技術をベースとしたAI開発・運用・品質管理ソリューションです。企画から開発、導入、運用、品質管理までワンストップでサポートいたします。最初から本導入を視野に入れた品質管理プロセスの下開発を行っていくことで、試験導入で終わることなく本導入に移行することが可能です。また、当社が揃える幅広いXAIツールが、現場での「なぜ？」に対するヒントを提示します。これによって、現場レベルでAIと協調しながらAIの改善、品質管理を安心安全に行っていくことが可能になります。

■AIシステムに対する第三者検証サービスの提供
既に運用しているAIシステムや、予算をかけて開発したもののPoCで終わってしまっていたAIシステムなどに対する品質検証サービスです。当社のQAAI技術を用いて網羅的に品質検証を行うことで、どこに品質的な課題があるのかあぶり出し、今後どのように改善していけば良いか提案を行います。スピーディーに品質をチェックするクイックテストから、包括的に本導入に向けた品質検証を行っていくオーダーメイドテストまで幅広くサービスを提供しています。AIシステムの開発は、ボトムアップなアプローチである性質上、どうしても正当な評価や検証が難しく、作為的な印象を与えてしまうことがあります。第三者検証を行うことで、ベンダー企業様、ユーザ企業様の双方が、本導入に向けた品質検証を安心安全に進めていくことが可能になります。

■投資家、当社技術顧問からのコメント
株式会社ディープコア（DEEPCORE） 取締役CFO　雨宮 かすみ
研究者としての実績と、事業会社での開発経験とを併せもつ山元CEOを中心としたコーピーチームの技術力・実装力を高く評価しています。企業が自社事業の重要な領域でAIを活用するにあたって、XAI/QAAIは欠かせない機能になってくるはずです。コーピーの技術が、ビジネスにおけるAI活用の可能性を大きく広げることを期待しています。

Deep30　代表組合員　田添 聡士
コーピーはXAI / QAAIのプラットフォーム開発のため、グローバルなチーム一丸となって取り組んでいます。非常にチャレンジングなテーマで、今後成長に当たって大きな壁は沢山あると思いますが、どんな場面もポジティブに捉えチャンスに変えていく代表の山元さんやCTOのIordanさんを始めとする優秀なエンジニアリングチームが乗り越え、AIがより多くの現場で活用される世界を実現させてくれると確信しております。

国立情報学研究所　准教授　石川 冬樹
コーピーはAIシステムの品質について、非常に高い意識を持ち、最先端の技術を踏まえて意欲的な取り組みを行っています。今後AIシステムがより頼れるものとなり、責任をもって広く社会に送り出されていくことに大きく寄与すると期待しています。そのために微力ながらお役に立てればと思っています。

大阪大学　准教授　原 聡
コーピーはXAI技術の産業応用に向けて精力的に研究開発に取り組んでいます。近年の発展著しいXAI技術が様々な産業と結びつくことで、技術としてさらに発展・成熟するものと期待しています。微力ながら私も技術の発展を後押しできたらと思っています。


-----

参照：開発の背景詳細と、XAI&QAAI
1. 開発背景
昨今、新型コロナウイルス感染拡大の影響により、オンラインの重要性が増し、あらゆる産業においてDX（デジタル・トランスフォーメーション）の必要性が高まってきています。当社は、現在まで「ミッションクリティカルなAIを実現する」をビジョンに掲げ、モビリティやヘルスケア、製造業領域においてAIソリューションの開発と提供を行ってまいりました。また、事業の一環として行ってきたAIの教育研修事業「AI Dojo」を通して、AI技術の社会実装やDXを目指す多くのビジネスパーソンや企業と向き合ってまいりました。

その過程で、「実は本導入に至っているAIシステムはリコメンデーションやOCRのような特定領域や特定技術（非ミッションクリティカル領域や機械学習による不確かさの影響が少ない領域・技術）に限られており、機械学習のような不確かさを含むAIシステムのプロジェクトは、ほとんどのケースでPoCより先に進んでいない」という課題が浮かび上がってきました。特に、システムの判断ミスが人命を脅かす危機に直結するセーフティクリティカル領域や、社会的、経営的危機に直結するミッションクリティカル領域においては、ほとんど機械学習を含むAIシステムが本導入に至っていないのが現状です。

多くのAIシステムがPoCより先に進まない、もしくは試験導入から本導入に至らない技術的理由としては、


AIの出力の判断根拠が理解できない（ブラックボックス問題）
AIの品質検証が十分にできていない
AIの導入・運用・品質管理のプロセスがわからない


等が考えられます。AIの社会実装を真剣に考えた時、最後に必ずAIシステムに対する説明可能性や品質管理が必要（ボトルネック）になり、これを超えられない限り、機械学習のような不確かさを含むAIシステムのミッションクリティカル領域への本導入は、ほぼありえないと我々は考えています。そこで、当社はAIの実運用で必須となる品質保証に焦点を当て、XAI（説明可能AI）技術を用いた説明性向上や、QAAI（AI向け品質検証）技術を用いた実環境における頑健性・脆弱性検証などを行う包括的アルゴリズムの開発に着手し、それらを用いたAIシステムの開発を行ってまいりました。

2. XAI, QAAI技術
XAI: eXplainable AI（説明可能AI）技術
近年、深層学習のブレイクを皮切りにAI技術は飛躍的発展を遂げてきました。しかし、高度な表現（判断）力を持つAI（特に深層学習によって構築された）モデルの出力の判断根拠を解釈することは、その構造上、非常に難しいです。これは、「AIのブラックボックス問題」と言われ、AI技術の社会実装上で大きな問題となってきています。このような背景から、AIの判断根拠を説明可能にする技術が求められてきており、その技術の総称をXAI（説明可能AI）と呼びます。詳しくは、当社技術顧問である大阪大学の原先生の資料をご参照下さい。
https://www.slideshare.net/SatoshiHara3/ver2-225753735

当社では、先行研究をキャッチアップし網羅的に取り入れていくことと同時に、当社独自のXAI技術の研究開発も進めています。これは、必ずしも単一のXAIアプローチがいつも有効な説明を行ってくれるわけではないからです。ドメインごとに有効なアプローチを試していくことで、現場でAIの出力の判断根拠を理解する助けとなり、現場レベルでAIの改善、品質管理を行っていくことが可能になります。これをHuman-in-the-loopと呼びます。

QAAI: Quality Assurable AI（AI向け品質検証）技術
機械学習のような不確かさを含むAIシステムは、明示的に仕様を決め、演繹的に振る舞いを保証することが可能な従来のシステムとは異なり、帰納的に振る舞いが決定されます。したがって、従来のアプローチでシステムの品質保証を行うことが困難です。また機械学習を含むAIシステムはCASE（Change Anything Change Everything）性を持つため、システムの一つの要素を変えると、システム全体の性質が変わってしまうリスクも含んでいます。このような背景から、AIシステムに特化した新たな品質検証技術と品質保証プロセスの確立が求められてきており、当社は、これらの技術を総称してQAAI（Quality Assurable AI）と呼んでいます。詳しくは、当社技術顧問である国立情報学研究所の石川先生の資料をご参照下さい。
http://research.nii.ac.jp/~f-ishikawa/work/1807-ESTIC18-AI+Testing.pdf

当社では、ドメインに特化したAIシステムの品質検証技術と品質保証プロセスの知見を、バーティカルに蓄積しております。たとえば、ドメイン特化データ拡張ツールや、ドメイン特化モデル頑健性テストツール、エッジケース抽出ツール、自動デグレードチェックツール等の開発を進めています。当社は、AIプロダクトの品質保証に関する産学コンソーシアムである「AIプロダクト品質保証コンソーシアム（QA4AI）」に所属しており、産業技術総合研究所が国際標準化を目指している「機械学習品質マネジメントガイドライン」等とも足並みを揃えながら、AIシステムの第三者検証としての役割を果たして参りたいと考えております。
AIプロダクト品質保証コンソーシアム（QA4AI）：http://www.qa4ai.jp/
産業技術総合研究所　機械学習品質マネジメントガイドライン：
https://www.aist.go.jp/aist_j/press_release/pr2020/pr20200630_2/pr20200630_2.html

3. CONFIDEについて
「CONFIDE（コンファイド）」は、当社が研究開発を重ねてきたXAI・QAAI技術をベースとしたドメイン特化AIの運用・品質管理プラットフォームです。CONFIDEの各頭文字は

の各単語に対応しており、AIシステムを安心安全に運用・品質管理していく上で非常に重要だと当社が考える原則に基づいています。

AIシステムの運用・品質管理プラットフォーム「CONFIDE」は、12月に正式版をローンチ予定です。それまでに、CONFIDEを用いたAIの運用・品質管理を試してみたいユーザー企業様や、CONFIDEを用いたサービスの共同開発を行いたいパートナー企業様を幅広く募集しています。

お問い合わせ
各種サービスのお問い合わせ、お申し込みは、以下のURLよりお願い申し上げます。
詳細ページ：https://confide.tech

■株式会社コーピー（Corpy&Co.）について
日本とフランスをベースに「先端AI技術で人命を救い、平等を拡張する」ことをミッションに、失敗の許されないミッションクリティカル領域におけるAI導入を目指し、サービスを展開している東京大学・仏Inria発AIスタートアップです。AIの実運用で必須となる品質保証に焦点を当て、XAI(説明可能AI)技術を用いた説明性向上や、QAAI(AI向け品質検証)技術を用いた実環境における頑健性・脆弱性検証などを行う包括的アルゴリズムの開発と、それらを用いたソリューション提供を行っています。

会社名 ：株式会社コーピー（Corpy & Co., Inc.)
ホームページ：https://corpy.co.jp/
代表取締役：山元 浩平
設立：2017年3月
本社所在地 ：東京都文京区本郷4-4-11
パリオフィス：Station F, 5 Parvis Alan Turing, 75013 Paris, FRANCE