セキュアで、API利用料が発生しないAIシステム基盤構築を一気通貫にサポート
プライム・ストラテジー、ローカル環境でのLLM導入・保守サービス「Magatama.AI」を発表
2024年03月01日 17時30分更新
プライム・ストラテジーは、2024年2月29日、ローカル環境における大規模言語モデル（LLM）実行環境の導入・保守サービス「Magatama.AI」を発表した。
同サービスでは、LLM活用のコンサルティングから実装までを一気通貫で提供し、DXに寄与する持続可能な組織作りとAIシステム基盤構築を支援する。ステップ1として、サービスや業務のどこでLLMを活用すべきかの導入コンサルティングを提供。ステップ2では、LLM実行環境の構築、運用をサポートする。
LLM活用のコンサルティングから環境構築までサポート
AIシステム基盤は、ローカル環境において、利用のニーズに合わせてオープンソースのLLMを組み合わせて構築される。外部の生成AIサービスを利用しないため、よりセキュアな環境で運営でき、API利用料も個別に発生しない。
また、量子化・バイナリ化技術を用いて、LLMを軽量化、高速・並列動作できる環境を構築する。NVIDIAやAMDのGPU、もしくはM2やM3のMacアーキテクチャで、オンボードメモリかユニファイドメモリが16GB以上であれば動作可能。さくらインターネットやAWS、Azure、OracleなどのクラウドGPUサーバーも利用できるという。
LLMの活用例、実現したい機能により最適なLLMを組み合わせる
価格イメージは、ステップ1にあたるLLM導入コンサルティングが、準委任契約で1日あたり一人10万円（税別）。ステップ2にあたる初期LLM費用が、1環境につき200万円（税別）から、LLM環境運用費用が、1環境かつ1ヶ月あたり30万円（税別）からとなる。
同社は、国内企業のAI基盤が海外事業者に依存している現状を受け、オープンソースのLLMによるDX成功事例を生み出し、国内事業者による日本企業のDX化・AIカンパニー化を推進するためにMagatama.AIを展開していく。
本記事はアフィリエイトプログラムによる収益を得ている場合があります
