インターネット接続環境がなくても生成AIを活用できる「Panorama AI Box」

　SDTは7月11日 、インターネット接続環境がなくても生成AIを活用できる「Panorama AI Box」をリリースした。

　ChatGPTなどの生成AIの利用が進んでいるが、生成AIの活用はインターネットへの接続を必要とするため、工場や病院といった高いセキュリティーが要求されるインターネット接続がない環境では生成AIを導入しづらい状況となっていた。

　ELYZAが提供する大規模言語モデル「Llama-3-ELYZA-JP-8B」は、オープンなモデルとして一般公開されており、ダウンロードしてインターネット接続ができないオンプレミスの環境でも生成AIを活用できる。Panorama AI Boxでは検索拡張生成（RAG）技術により内部データを検索し、その内容に基づいた精度の高い回答が可能という。

　このため、工場や病院などインターネットに接続できない環境でも高い日本語性能を持つ最新LLMであるLlama-3-ELYZA-JP-8Bの利用が可能。また、GPT-4のAPIのようなリクエスト単位での従量課金ではないため、運用時の生成AIに関するランニング費用が発生しないという特徴がある。

　製造業（工場）では生産ラインの設備マニュアルや過去の故障履歴と生成AIの連携により、トラブルシューティングや予防保全に活用、作業手順書や安全規則を基に従業員の質問にリアルタイムで回答することが可能。医療機関（病院）では過去のインシデントレポートの分析による将来起こりえるインシデントのリスク軽減や、医療スタッフ向けの最新のガイドラインや各種情報を提供できる。

　また、自治体では機密性の高い行政文書や議会議事録と生成AIの連携して政策立案や行政サービスの改善に活用、市民向け行政サービスに対するよくある質問の自動更新とチャットボットによる情報提供などの用途に活用できるとしている。

「ASCII STARTUPウィークリーレビュー」配信のご案内

ASCII STARTUPでは、「ASCII STARTUPウィークリーレビュー」と題したメールマガジンにて、国内最先端のスタートアップ情報、イベントレポート、関連するエコシステム識者などの取材成果を毎週月曜に配信しています。興味がある方は、以下の登録フォームボタンをクリックいただき、メールアドレスの設定をお願いいたします。