カラクリ、企業ごとにカスタマイズできる大規模言語モデル構築サービス「Custom LLM」の提供開始
カラクリ株式会社
～カスタマーサポートに特化した内製LLM活用で、最短１ヵ月の構築が可能～
AI SaaS事業を展開するカラクリ株式会社（東京都中央区：代表取締役CEO 小田志門、以下カラクリ）は、カスタマーサポートに特化したカラクリ内製の大規模言語モデル（以下、LLM）を活用し、企業ごとのマニュアルや専門用語に応じたLLMを構築できるサービス「Custom LLM」の提供を開始いたします。構築期間は最短１ヵ月で、企業固有の受け答えや専門用語・言い回しなどへの対応が可能となります。本サービス利用で企業文化に根ざした暗黙知を理解したAIが、きめ細かな業務支援・新人指導を行い、「スタッフ1人に１台のAI」といった協働環境を整えます。
開発背景
運用コスト・セキュリティなどの課題を解消し、実用化を促進
ChatGPTが注目を集める中で、様々な分野でLLMや生成AIが活用され始めております。その一方で、LLMのビジネス活用という側面では運用コスト、セキュリティ、コンプライアンスなどのリスクを抱えているのも事実です。カラクリでは、2023年3月よりカマスターサポート業界を対象に、LLMの実用化を目的とした「カラクリLLMラボ」（https://gpt.karakuri.ai/）を設立し、本課題をクリアにするためのPoCや研究を重ねております。本サービスもその取り組みの一環であり、業界独自の専門用語や企業固有の言い回し、ルールなどに対応可能なLLMの構築サービスを提供する運びとなりました。
「Custom LLM」概要について
「Custom LLM」は、大手企業向けのカスタマーサポート業務支援に特化したLLM構築サービスです。カスタマーサポート部門で使われているマニュアルやこれまで問い合わせがあった電話・メールのログデータなど企業独自のデータを学習させることができます。
提供の手順は、まずはプロトタイピングの実施からスタートします。AI活用の対象業務の決定とデータセットの準備、適応言語モデル（最大130億パラメーター）を選定し、続いてトレーニング、QAフェーズでモデルの性能を評価します。その後、AIが実行するタスクに特化したサービスをクラウドで提供し、本番利用開始となります。
【サービスの特徴】
１.カスタマーサポート特化型LLMを活用
カラクリは、2018年よりtransformerを用いた言語モデルBERTを、2022年からはGPTを含めた大規模言語モデルの研究を実施しています。その中でAI活用で改革余地の高いカスタマーサポート業界に特化したカラクリ内製の言語モデルの開発を進めており、本サービスに活用しております。
２.優れたカスタマイズ性で、１人AI１台を実現
企業マニュアルや過去の問い合わせデータ、コミュニケーションログをAIの学習データとして活用できます。日々の業務に根ざした暗黙知まで学習できるので、企業文化にフィットしたLLM構築が可能です。またチャットボットやメールの文章校閲など既存システムとの連携を含めた実装を目指します。
３.安心安全のセキュリティ・カバナンスを提供
カラクリ内製LLMの学習データが商用利用可能な安全なデータであることはもちろん、追加学習させる企業独自のデータも個人情報へのマスキングなどを施すことで、高いデータセキュリティを実現します。社内限定の非公開情報や個人情報など機密情報レベルの取り扱いを行うカスタマーサポート部門が安心・安全にご利用いただける環境を整えます。
今までの機械学習と、独自LLMの違いについて（カラクリ CTO中山智文コメント）
過去の電話やメールのログデータから「暗黙知」の利活用が可能に。
これまでのAIは形式化・言語化できている「形式知」を学習データとして利用することが前提とされていました。そのため、カスタマーサポート部門で明文化されてこなかった過去のやり取りに含まれているナレッジ、さらに言葉遣いや丁寧さといった属人的になりがちな暗黙知を学習させるのは、非常に困難でした。
独自LLMは、この明文化されていないメールや電話などのログデータを学習データとして利用することが可能です。企業文化に根付いた暗黙知が、共有される「知」となり、これまで以上にAIが支援できる業務の幅を拡げます。
会社概要
カラクリは「カスタマーサポートをエンパワーメントする」をブランドパーパスに掲げ、大規模言語モデル（LLM）のカスタマーサポートへの実用化を目指した事業を展開しています。2018年よりtransformerを用いた言語モデルBERTを、2022年からはGPTを含めた大規模言語モデルの研究を実施。主力ビジネスである高精度AIチャットボット「KARAKURI chatbot」は、高島屋、SBI証券、セブン-イレブン・ジャパン、SmartHRなど各業界のトップランナーに選ばれつづけています。2018年のICCサミット「スタートアップ・カタパルト」に入賞、2020年には「Google for Startups Accelerator」に採択されました。
住所 ： 〒104-0045 東京都中央区築地2-7-3 Camel 築地 II
設立 ： 2016年10月3日
代表者 ： 代表取締役CEO 小田 志門
事業内容 ： カスタマーサポート特化型AI「KARAKURI」シリーズの開発・提供・運営など
URL ： https://about.karakuri.ai/