セキュアで、API利用料が発生しないAIシステム基盤構築を一気通貫にサポート

プライム・ストラテジー、ローカル環境での​LLM導入・保守サービス「Magatama.AI」を発表

　プライム・ストラテジーは、2024年2月29日、ローカル環境における大規模言語モデル（LLM）実行環境の導入・保守サービス「Magatama.AI」を発表した。

　同サービスでは、LLM活用のコンサルティングから実装までを一気通貫で提供し、DXに寄与する持続可能な組織作りとAIシステム基盤構築を支援する。ステップ1として、サービスや業務のどこでLLMを活用すべきかの導入コンサルティングを提供。ステップ2では、LLM実行環境の構築、運用をサポートする。

LLM活用のコンサルティングから環境構築までサポート

　AIシステム基盤は、ローカル環境において、利用のニーズに合わせてオープンソースのLLMを組み合わせて構築される。外部の生成AIサービスを利用しないため、よりセキュアな環境で運営でき、API利用料も個別に発生しない。

　また、量子化・バイナリ化技術を用いて、LLMを軽量化、高速・並列動作できる環境を構築する。NVIDIAやAMDのGPU、もしくはM2やM3のMacアーキテクチャで、オンボードメモリかユニファイドメモリが16GB以上であれば動作可能。さくらインターネットやAWS、Azure、OracleなどのクラウドGPUサーバーも利用できるという。

LLMの活用例、実現したい機能により最適なLLMを組み合わせる

　価格イメージは、ステップ1にあたるLLM導入コンサルティングが、準委任契約で1日あたり一人10万円（税別）。ステップ2にあたる初期LLM費用が、1環境につき200万円（税別）から、LLM環境運用費用が、1環境かつ1ヶ月あたり30万円（税別）からとなる。

　同社は、国内企業のAI基盤が海外事業者に依存している現状を受け、オープンソースのLLMによるDX成功事例を生み出し、国内事業者による日本企業のDX化・AIカンパニー化を推進するためにMagatama.AIを展開していく。

■関連サイト

• ニュースリリース
• Magatama.AI