LLM技術や学習モデルを活用し生成AIの回答精度を向上させる「SLMファインチューニング」カスタムサービス

　ヘッドウォータースは7月23日、生成AIの業務活用を推進する企業向けに「SLMファインチューニング」カスタムサービスの提供開始した。

　同社ではAzure OpenAI Serviceによる企業向けGPTサービスラインアップを拡充し、企業向けの生成AIならびにLLM（大規模言語モデル）、RAG（Retrieval Augmented Generation）システム、SLM（小規模言語モデル）を使ったエッジAIなど多くのソリューションを開発している。

　生成AIの業務活用において多くの顧客から、「専門用語、業界用語、社内用語に対応させたい」「特定のキーワードが出た場合にサジェストやレコメンドを行いたい」「回答精度を向上させたい」といった課題が寄せられ、課題に対するソリューションを模索してきたという。

　SLMファインチューニングカスタムサービスは、マイクロソフトが提供する「Azure AI モデルカタログ」から選べるオープンソースAI基盤モデル「Phi-3」「Llama-3」、並びに「GPT-4o mini」を中心とした小規模言語モデルを使用し、生成AIの回答精度を向上させるサービス。生成AIが作成する文章の精度では業務利用が厳しいと考えられている企業に有用なサービスという。

　SLMの学習データとして「業界固有の用語やニュアンス」や「間違ってはいけない回答」など「他のナレッジよりも優先するべきナレッジ」をSLMに用意することで、不正確さや無関係な情報を生成するリスクを最小限に抑えることができる。また、SLMはLLMと比較してコンピューティングリソースが抑えられるため、運用コスト効率が高く、応答時間の短縮や消費エネルギー削減と言ったメリットがある。

　SLMはPhi-3を活用することでMicrosoft AzureやCopilot+ PCとの親和性を考慮しているほか、SLMの弱点とされている日本語対応の解決にMetaのLlama-3をベースに開発された日本語学習済みモデルを利用。運用コストと速度における課題解決のためにOpenAIのGPT-4o miniを活用。本来高コストになりやすいファインチューニングも「扱うデータ量が少ないSLMを利用する」ことでLLMのファインチューニングよりも安価に提供する。

　また、同社では今後、マルチモーダルSLMを活用したマルチタスクエッジ映像解析、個人情報をクラウドに持ち出さない生成AI×オンプレミス、オフライン環境に対応するローカルSLM、Copilot+ PC上で稼働するWindows AIアプリケーションなどのソリューション展開を図るという。

「ASCII STARTUPウィークリーレビュー」配信のご案内

ASCII STARTUPでは、「ASCII STARTUPウィークリーレビュー」と題したメールマガジンにて、国内最先端のスタートアップ情報、イベントレポート、関連するエコシステム識者などの取材成果を毎週月曜に配信しています。興味がある方は、以下の登録フォームボタンをクリックいただき、メールアドレスの設定をお願いいたします。