KELA、生成AIセキュリティーソリューション「AiFort」
KELAは4月19日より、生成AIセキュリティーソリューション「AiFort（エーアイフォート）」を発表し、国内販売を開始した。
近年、多くの分野で生成AI／LLMの利用が増加しているが、生成AIへの期待が高まる一方で、セキュリティー対策は確立されていない。とくにAIプラットフォームへの攻撃はAIプラットフォーム自体が攻撃の対象となり、不正なアクセスやデータ漏洩のリスクがあるという。
AiFortは、生成AI /大規模言語モデル（LLM）をセーフティー、セキュリティー、プライバシーの3つの観点で保護するために、AIモデル学習用データセットや模擬攻撃などを提供。
開発から運用までMLOpsライフサイクル全般をカバーし、安全な生成AIモデルを構築・運用できるよう支援するという。
具体的には、AiFort suiteとして、以下3つの機能とサービスを提供するモジュールで構成される。
①AiFort Data（AIトレーニングデータセット）
生成AIモデルのトレーニングで利用する、脅威インテリジェンスに基づくデータセット。最新の脅威動向や犯罪技術などを反映したAiFort Dataを利用して、生成AIモデルに学習させることで、セキュリティーを強化できる。
②AiFort Red（レッドチームサービス）
AIモデルの脆弱性やセキュリティリスクがないかどうか、信頼性と安全性を診断するための、脅威インテリジェンスに基づくアドバーサリーエミュレーション（攻撃模倣プログラム）。利用ユーザーが簡単な操作でテストプランを作成し、プランに基づいて「AiFort Red」が模擬攻撃を実行し、ユーザーは分析・診断結果をダッシュボードで把握できる。
③AiFort Protect（プロンプトフィルタリング）※2024年中に提供開始予定
悪意のある不正なプロンプト入力をリアルタイムに検知・通知し、プロンプトインジェクションやデータ漏洩、ハッキングなどの不正行為を防止。生成AIを用いたシステム／サービスの運用開始後、生成AI向けのファイアウォールのように機能する。
AiFort Red ダッシュボード画面
AiFort Suite
販売開始：4月19日
導入方法：クラウド、オンプレミス
販売価格：モジュール単体年額300万円（税別）～
※利用条件により見積り
※AiFort Suiteとしての提供のほか、モジュール単体でも提供
「ASCII STARTUPウィークリーレビュー」配信のご案内
ASCII STARTUPでは、「ASCII STARTUPウィークリーレビュー」と題したメールマガジンにて、国内最先端のスタートアップ情報、イベントレポート、関連するエコシステム識者などの取材成果を毎週月曜に配信しています。興味がある方は、以下の登録フォームボタンをクリックいただき、メールアドレスの設定をお願いいたします。
