AIの思考過程を可視化しAI特有のリスクを低減、「Citadel Radar」β版提供開始
Citadel AIは5月10日、AI保守効率を効果的に実現する「Citadel Radar」β版の提供を開始した。
Citadel AIは第4回 東大IPC 1stRoundにも採択されたスタートアップ。AIは判断過程がブラックボックス化しやすく、常に再学習・更新し続けバイアスの排除を行ないながら品質や精度を維持していくことが求められる一方、運用段階で専門家がAIシステムを常時監視することはコストやリソースの面でも大きな課題がある企業が多いという。
Citadel Radarは、企業がもつAIシステムを自動モニタリングして異常を検知・ブロック・可視化することにより、AI固有のリスクからの保護を提供する。AIを改修することなく、さまざまなAIのモデルやアプリケーションに適用可能としている。