業界人の《ことば》から 第571回

小説15冊分の30万字プロンプトにも対応、NECの生成AI「cotomi」の進化

スケーラブルな展開を進めるNECの生成AIモデル

　NECの生成AIは、早くも次のステップに踏み出している。

　2023年7月の発表以降、12社の民間企業と、3つの大学で、130億パラメーターの生成AIを先行利用しながら、フレームワークやモデルを開発してきたが、これをもとに、金融や自治体、医療、製造などの業種特化モデルを構築。さらに、セールス向けLLMやコンタクセンター向けLLM、ソフトウェア開発向けLLMなどの業務特化モデルと組み合わせて、特化モデルとして整備する計画を打ち出している。加えて、これらの特化モデルを、NECなどが提供する業種・業務向けパッケージやソリューションに組み込んで提供する計画も明らかにした。

　NECの吉崎CDOは、「2024年春には、NECが持つ業種や業務ノウハウをもとにした特化モデルを中核に、日本の企業などを対象に、ビジネスに応じて最適化した生成AIの利用環境を提供する」とする。

　さらに、NEC Digital Platform（NDP）で提供するマネージドAPIサービスを通じて、cotomiの適用範囲を、個別の企業から、産業や業種全体へと広げていく計画も示した。

　NECでは、cotomiのフェーズ1として、企業や大学の先行利用を通じて、フレームワークやモデルを開発したが、この成果をもとに、フェーズ2として、それぞれの業界ごとに、数100社、数1000社が利用できるような環境を整えることになるという。そして、フェーズ3では、パートナーとの連携によってcotomiを利用したビジネスを拡大。今後3年間で約500億円の売上げを目指す。

　吉崎CDOによると、フェーズ2およびフェーズ3は、2024年度からスタート。3年後の500億円の売上げ計画のうち、フェーズ2が4～5割、フェーズ1が2割、残りがフェーズ3になると見ている。。

日本語データのさらなる学習も進める

　そして、130億パラメーターのLLMのそのものも進化を遂げている。

　2023年7月の発表時点に比べて、その2倍近い良質な日本語データを学習させており、日本語処理能力をさらに向上させてるいる。「圧倒的な日本語処理能力を持つことになった」と、吉崎CDOは自信をみせる。

　さらに、長文プロンプトにも対応し、30万字の入力を可能にしている。

　「企業や個人が持っているデータを学習させる際にも、直接、プロンプトに30万文字を入れることができるようになる」とする。

　30万字は、小説であれば15冊分に匹敵する内容であり、社内外業務文書や社内マニュアルなどをプロンプトに入力でき、それぞれの企業が専用LLMを実現する上でも大きな効果と効率性を発揮することになる。

　こうした進化も、社内に国内最大級のAIスーパーコンピュータを所有しているからこそ実現できるものだといえる。

　2024年度中には、オンプレミスで活用できる軽量LLMを正式発表する予定であるほか、IaaSやPaaSを提供するグローバルクラウド企業がcotomiを活用することを想定。すでに複数社との話し合いが進んでいることも明かす。この提携についても、2024年後半には発表できる見通しだという。