ゲーミングPCでも動作可能な軽量LLMで生成AIビジネスを垂直立ち上げ
日本語に強く、たった130億パラメーター NECが作った国産LLMの価値
2023年07月10日 09時00分更新
クローズドな環境での利用 Microsoft Azureとの接続も可能
今回のNECによる日本語LLMは、インフラおよびサービスの観点からも、独自の取り組みを用意している点が見逃せない。
インフラに関しては、同社のNEC印西データセンターにおいて、セキュアな環境で利用できるように構築。顧客の要望に応えた専門性の高いサービスとして提供することができるという。さらに、データセンター内の相互接続により、Microsoft AzureやAmazon Web Services、Oracle Cloud Infrastructureを通じた活用も可能になる。また、先に触れたように、軽量化という特徴を生かして、オンプレミスでの利用も可能にしている点が特徴だ。
NECの吉崎CDOは、「NEC独自のAI研究用スーパーコンピュータによるLLMの開発に加えて、NECのプロンプトエンジニアリングのノウハウを生かした業種別テンプレートを提供すること、印西データセンターを活用し、閉域による専門性の高いサービスを提供できること、さらに、自社でLLMを持ちたいというお客様にもオンプレミスで利用できるようなサービスも用意している。これらは、NECだけが提供できる価値になる」と述べた。
LLMとNECが開発した各種ソフトウェアを、NECが提供するNEC Digital Platform上で展開。専用ハードウェアであるNEC Generative AI Appliance Serverにより、クローズドな環境での利用を実現。また、Microsoft Azureと接続できるサービスを提供しており、IT資産を、低遅延で、セキュアに運用できる。
吉崎氏は、「NECのLLMだけでなく、Microsoft Azure OpenAI Serviceを活用したサービスも利用できる。2023年1月のダボス会議で、米マイクロソフトのサティア・ナデラCEOと会談。マイクロソフトの生成AIに関する方向性を聞き、その後、CTOとの深い議論を繰り返し、NECのLLMとコンバインしながら、Microsoft Azureと接続できるサービスを提供することを決定した。将来は、Microsoft Azure OpenAI Service以外にも、さまざまなLLMも提供することができるようになる」と語る。
Microsoft Azureとの接続も可能
もう1つの特筆される取り組みが、2023年7月に新設した「NEC Generative AI Hub」による日本の企業に対するLLMの利活用支援体制の確立である。
NECの吉崎CDOは、「NEC Generative AI Hub は、CDO直下の組織として、生成AIの専門家で構成し、お客様の生成AIを活用したビジネスをサポートすることになる。データサイエンティストやエンジニア、コンサルタントなどの高い専門性を持ったメンバーと、日本、欧州、北米のグローバル研究チームによる専門家集団で構成し、100人体制でスタートする。お客様と連携してオープンイノベーションを目指す」と述べた。
NECは今後、基盤モデルをもとに、顧客のクローズドデータを用いた個社向けLLMの開発を強力に推進。また、基盤モデル自体の性能改良も進め、これらの技術を NEC Generative AI Hubを通じて早期実用化していく予定だという。
LLMのライセンス提供から、専用ハードウェア、ソフト、コンサルまで幅広く提供
一方、NECでは、NEC Generative AI Serviceとして、LLMに関するサービスをメニュー化。LLMのライセンス提供から、日本市場のニーズに合わせた専用ハードウェアやソフトウェア、コンサルティングサービスなどを提供する。
具体的には、LLM活用シナリオの企画に関するサービスを提供する「コンサルティングサービス」、Microsoft Azure OpenAI Serviceを活用した仮説検証サービスを中心に提供する「ナレッジエンジニアリングサービス」、LLM活用に関するリテラシー教育を提供する「教育サービス」、Microsoft Azure OpenAI Serviceを用いた環境構築サービスを提供する「環境構築サービス」を提供する。
また、プロンプト生成や質問管理を支援するソフトウェアを提供する「NEC Generative AI Framework」、NEC Advanced Customer Programを対象に、2023年8月から先行評価を行なうことができる「LLMの提供」、オンプレミス利用が可能となるハードウェア基盤を提供する「NEC Generative AI Appliance Server」、Microsoft Azure ExpressRouteへの接続拠点により、低遅延でセキュアな接続を実現する「NEC印西データセンター」といったメニューを用意。7月から順次提供を開始する。
LLMに関するサービスをメニュー化
NEC Generative AI Chief Navigatorの千葉雄樹氏は、「プロンプトテンプレートや質問応答強化、モデル切り替え、チューニングなど、生成AIの利用に必要な機能を、NEC Generative AI Frameworkとしてまとめて提供することで、使いやすい環境を実現している」という。
LLMにおいて、業種別テンプレートを活用することで、業種ごとの専門性を加えることができ、セールスノウハウや社内顧客データ、LLMの推論能力を組み合わせてサービスを構築。「顧客に何の商品を、どう勧めるといいかといった質問に対しても、瞬時にアドバイスすることができる」という。
また、これらのユースケースをもとに、顧客向けのモデル作成や、LLM活用のためのソフトウェア整備、組織立ち上げを包括的に支援するためのプログラムとして、「NEC Generative AI Advanced Customer Program」を用意。全方位で、日本語生成AIを利用できる環境を提供できるとした。
同プログラムには、住友生命保険、大和証券グループ、三井住友銀行、積水ハウス、セブン銀行、JR東日本、三井住友海上火災保険、三井住友信託銀行、早稲田大学が参加を表明。産業、大学と連携することで、新たな事業や価値を創出するという。
NECでも、2023年5月から、生成AIの社内業務利用を開始しており、社員が安全安心に生成AIを活用できる体制と仕組みをわずか2週間で構築。社内チャットやウェブ会議ツールなどの社内システムとも連携しており、利用者数は約2万人、1日に約1万回の活用があるとのこと。すでに、資料作成時間は50%削減し、議事録作成の平均時間を30分から5分へと短縮。社内システムの開発におけるソースコード作成業務を効率化し、工数を80%削減するといった成果があるという。社内利用で得たノウハウを、LLM関連サービスに反映する考えも示している。
NECでは、生成AI関連事業において、今後3年間で約500億円の売上げを目指すという。
