業界人の《ことば》から 第584回

70憶パラメーターの軽量版から

NTT版の大規模言語モデル（LLM）、tsuzumiの商用化スタート、勝算は？

今回のひとこと

「NTT版LLM の『tsuzumi』の商用サービスを開始する。2023年11月の発表以降、国内を中心に、幅広い業界から500社以上の導入相談がある。金融や自治体といった機密性が高いデータを取り扱う分野からの問い合わせも多い」

（NTTの島田明社長）

まずは軽量版の提供から、GPT3の1/25万でGPT3.5を上回る性能

　NTT版LLM（大規模言語モデル）である「tsuzumi」の商用サービスが、2024年3月25日からスタートした。

　tszumiには、6億パラメータの超軽量版と、70億パラメータの軽量版の2種類が用意されているが、商用サービスを開始したのは70億パラメータの軽量版だ。

　オンプレミス、プライベートクラウド、パブリッククラウドの3つの利用環境での提案とともに、「CXソリューション」、「業界・業務別EXソリューション」、「IT運用サポートソリューション」の3つのソリューションメニューを組み合わせて提供することになる。

　NTTの島田明社長は、「tsuzumiには、軽量、高い言語性能、高カスタマイズ性、マルチモーダル性の4つの特徴がある」とし、それぞれの強みをアピールする。

　「軽量」では、tsuzumi の70億パラメータというサイズが、GPT-3の25分の1のサイズであり、顧客の持つオンプレミス環境でも動作させることができるため、顧客固有のクローズドデータを使った特化型LLMを構築し、これをセキュアに運用することができる点を強調する。

　2つめの「高い言語性能」では、NTTが40年以上に渡って蓄積してきた自然言語処理研究の成果を活かし、世界トップクラスの日本語性能を実現。RakudaベンチマークではGPT-3.5 を上回る性能を発揮し、同パラメターサイズの国産LLMと比較しても、tsuzumiは、それらを大きく上回る性能を発揮しているという。「2023年11月の発表時点よりも、日本語性能はさらに向上しており、GPT-3.5に対するベンチマークでの勝率は81.3%に達した。勝率は、約4カ月間で約30%ポイントも上昇している」と胸を張る。また、英語に関しても、metaのLlama-2-7Bと同程度の性能を発揮していることも示す。

　3つめの「高カスタマイズ性」では、機密性の高いデータの学習や、企業特化および業界特化、タスク特化などのカスタマイズやチューニングを低コストで実現。「業界や組織のデータに基づくカスタマイズや、頻繁に情報を追加しなければならない用途でも利用できる」と述べた。

　そして4つめの「マルチモーダル性」では、言語に加えて、図表読解などの様々な形式にも対応。PowerPointの資料や、図表、グラフ、商品説明が書かれたマニュアル類などの学習性能も、GPT-3.5やGPT-4を凌ぐ精度になっており、「視覚読解性は、AAAIをはじめとする複数の難関国際会議に採録されている」と報告した。