業界人の《ことば》から 第584回

70憶パラメーターの軽量版から

NTT版の大規模言語モデル（LLM）、tsuzumiの商用化スタート、勝算は？

要望の高いものはソリューション化して提供

　商用化にあわせて、NTTでは、3つのソリューションメニューを用意したが、これは、500社以上の導入相談において、用途として要望が多かったものを反映している。

　「CXソリューション」では、コンタクトセンターのオペレータ業務支援に活用でき、リアルタイム検索や自動要約、情報抽出によって、顧客の通話待ち時間の削減や応対品質の向上を実現するという。すでに、東京海上日動が、tsuzumiを活用して、1万人のオペレータが利用することにより、年間40万時間の削減を目指している。また、富士薬品では、デジタルヒューマンを活用した未来型小売モデルの実証に取り組んでおり、ここにtsuzumiを活用。顧客のカウンセリングデータやヒアリングテータをもとに、生成AIで自社商品を提案したり、必要に応じて専門家に引き継いでサポートしたりといったことを自動的に判断している。tsuzumiの機能を活用することで、相手の表情を判断して、それに適切な回答が行えるようにする取り組みも開始している。

　「業界・業務別EXソリューション」は、企業や自治体が、業務マニュアルや製品検索、議事録の作成および要約、レポート作成、申請書類作成などの用途で活用。福井県では、県民サービスの向上に向けて、tuzumiを利用し、機密性の高い行政業務に関するデータを学習して、県民からの問い合わせに的確に対応し、行政業務の効率化につなげられるかどうかを検証しているところだという。

　また、千葉大学医学部附属病院では、医療におけるインフォームドコンセント活用に向けた実証を開始。医師が患者に対して、検査や治療内容の説明をする際の準備を支援。説明資料や説明動画も生成しているという。

　そして、「IT運用サポートソリューション」では、社内ITヘルプデスクにおける問い合わせ対応や、IT運用自動化サポートなどに適用。サイバーセキュリティ領域においては、tsuzumiのセキュリティ運用特化LLMと、顧客が持つ固有情報を活用したAIアドバイザー、さらにはSIEMやSOAR、XDRといった自動化ソリューションを連携することで、企業のセキュリティ運用の負担を低減し、人手による作業を95%削減できたケースもあるという。