「AIシステム品質検証」提供開始、AI機能を組み込んだシステムや社内ツールの品質やリスクを可視化

　株式会社ProVisionは6月19日に、AI活用における品質とリスクの検証を支援する「AIシステム品質検証」の提供開始を発表した。AI機能が組み込まれたシステムのほか、開発工程でAIを使用しているシステム、社内AIツールなどを対象に、AIの出力品質やセキュリティ、運用時のリスクを検証するという。これまでに同社がソフトウェアテスト・QA事業で培った品質検証の知見を生かし、企業がAIを安全かつ継続的に活用できる環境づくりを支援するという。

　同社によると、業務においてAIを活用したシステムや社内AIツールの導入が進む中で、ハルシネーションやセキュリティ面への不安、複数のAIが稼働する環境における品質変化や誤動作の検知、社内でのAI利用におけるセキュリティ統制など、運用時の課題が顕在化しているという。こうした課題に同社はソフトウェアテスト事業で培った検証ノウハウをもとに、AIの品質やリスクを可視化し、企業のAI活用を支援する「AIシステム品質検証」の提供を開始したとのこと。

「AIシステム品質検証」では、対象となるAIや利用状況に応じて、出力品質やセキュリティ、運用ルールなどの検証観点を設計して、課題の可視化から改善に向けた支援までを一貫して対応するという。主な検証領域は以下とのこと。
・出力品質・正確性：
　ハルシネーションの検知やRAGの参照精度、回答の関連性などを検証する。
・安全性・倫理・ガバナンス：
　出力内容のバイアスや公平性、有害なコンテンツが生成されるリスクなどを確認する。
・セキュリティ：
　プロンプトインジェクションによる指示の乗っ取りや機密情報の漏洩リスクなどを検証する。
・ロバストネス・非機能：
　表現の揺れや誤字などに対する挙動、応答速度やタイムアウト条件などを確認する。

　同サービスでは、AIの出力内容や利用シーンに応じて必要な検証観点を整理し、品質・リスクの可視化を支援するほか、提案やレポート提出だけでなくエンジニアが現場に入り込み、顧客の環境に応じて柔軟な検証方法を提案するなどして品質向上を支援するとしている。