セキュアで、API利用料が発生しないAIシステム基盤構築を一気通貫にサポート
プライム・ストラテジー、ローカル環境でのLLM導入・保守サービス「Magatama.AI」を発表
2024年03月01日 17時30分更新
プライム・ストラテジーは、2024年2月29日、ローカル環境における大規模言語モデル（LLM）実行環境の導入・保守サービス「Magatama.AI」を発表した。
同サービスでは、LLM活用のコンサルティングから実装までを一気通貫で提供し、DXに寄与する持続可能な組織作りとAIシステム基盤構築を支援する。ステップ1として、サービスや業務のどこでLLMを活用すべきかの導入コンサルティングを提供。ステップ2では、LLM実行環境の構築、運用をサポートする。
LLM活用のコンサルティングから環境構築までサポート
AIシステム基盤は、ローカル環境において、利用のニーズに合わせてオープンソースのLLMを組み合わせて構築される。外部の生成AIサービスを利用しないため、よりセキュアな環境で運営でき、API利用料も個別に発生しない。
また、量子化・バイナリ化技術を用いて、LLMを軽量化、高速・並列動作できる環境を構築する。NVIDIAやAMDのGPU、もしくはM2やM3のMacアーキテクチャで、オンボードメモリかユニファイドメモリが16GB以上であれば動作可能。さくらインターネットやAWS、Azure、OracleなどのクラウドGPUサーバーも利用できるという。
LLMの活用例、実現したい機能により最適なLLMを組み合わせる
価格イメージは、ステップ1にあたるLLM導入コンサルティングが、準委任契約で1日あたり一人10万円（税別）。ステップ2にあたる初期LLM費用が、1環境につき200万円（税別）から、LLM環境運用費用が、1環境かつ1ヶ月あたり30万円（税別）からとなる。
同社は、国内企業のAI基盤が海外事業者に依存している現状を受け、オープンソースのLLMによるDX成功事例を生み出し、国内事業者による日本企業のDX化・AIカンパニー化を推進するためにMagatama.AIを展開していく。
