今回のひとこと
「NTT版LLM の『tsuzumi』の商用サービスを開始する。2023年11月の発表以降、国内を中心に、幅広い業界から500社以上の導入相談がある。金融や自治体といった機密性が高いデータを取り扱う分野からの問い合わせも多い」
まずは軽量版の提供から、GPT3の1/25万でGPT3.5を上回る性能
NTT版LLM(大規模言語モデル)である「tsuzumi」の商用サービスが、2024年3月25日からスタートした。
tszumiには、6億パラメータの超軽量版と、70億パラメータの軽量版の2種類が用意されているが、商用サービスを開始したのは70億パラメータの軽量版だ。
オンプレミス、プライベートクラウド、パブリッククラウドの3つの利用環境での提案とともに、「CXソリューション」、「業界・業務別EXソリューション」、「IT運用サポートソリューション」の3つのソリューションメニューを組み合わせて提供することになる。
NTTの島田明社長は、「tsuzumiには、軽量、高い言語性能、高カスタマイズ性、マルチモーダル性の4つの特徴がある」とし、それぞれの強みをアピールする。
「軽量」では、tsuzumi の70億パラメータというサイズが、GPT-3の25分の1のサイズであり、顧客の持つオンプレミス環境でも動作させることができるため、顧客固有のクローズドデータを使った特化型LLMを構築し、これをセキュアに運用することができる点を強調する。
2つめの「高い言語性能」では、NTTが40年以上に渡って蓄積してきた自然言語処理研究の成果を活かし、世界トップクラスの日本語性能を実現。RakudaベンチマークではGPT-3.5 を上回る性能を発揮し、同パラメターサイズの国産LLMと比較しても、tsuzumiは、それらを大きく上回る性能を発揮しているという。「2023年11月の発表時点よりも、日本語性能はさらに向上しており、GPT-3.5に対するベンチマークでの勝率は81.3%に達した。勝率は、約4カ月間で約30%ポイントも上昇している」と胸を張る。また、英語に関しても、metaのLlama-2-7Bと同程度の性能を発揮していることも示す。
3つめの「高カスタマイズ性」では、機密性の高いデータの学習や、企業特化および業界特化、タスク特化などのカスタマイズやチューニングを低コストで実現。「業界や組織のデータに基づくカスタマイズや、頻繁に情報を追加しなければならない用途でも利用できる」と述べた。
そして4つめの「マルチモーダル性」では、言語に加えて、図表読解などの様々な形式にも対応。PowerPointの資料や、図表、グラフ、商品説明が書かれたマニュアル類などの学習性能も、GPT-3.5やGPT-4を凌ぐ精度になっており、「視覚読解性は、AAAIをはじめとする複数の難関国際会議に採録されている」と報告した。
この連載の記事
-
第590回
ビジネス
生成AIに3000億円投資の日立、成長機会なのか? -
第589回
ビジネス
三菱電機が標ぼうする「サステナビリティ経営」、トレードオフからトレードオンへ -
第588回
ビジネス
富士通の子会社でDX専門のコンサルティングをするRidgelinez -
第587回
ビジネス
メーカー自身が認定し、工場検査後に販売するパナソニックの中古家電 -
第586回
ビジネス
マイクロソフト、日本への4400億円のAI/データセンター投資の実際 -
第585回
ビジネス
日本市場の重要性を改めて認識する米国企業、変革期にある製造業がカギ -
第583回
ビジネス
エコ投資に取り組むエプソン、見方によっては10年で1兆円の投資も -
第582回
ビジネス
パナソニックコネクトの現在地点、柱に据えるBlue Yonder、ロボットとは? -
第581回
ビジネス
スタートして半年の日本NCRコマース、軸はAIとプラットフォームの2つ -
第580回
ビジネス
コンカーの第2章は始まるのか、SAPの生成AIを使って効率的な経費精算を - この連載の一覧へ