Google CloudやNEC、シナモン、Boxの語る取り組みとチャレンジ

生成AIにより企業に眠る非構造化データをどう有効活用していくか

　Box Japanは、2024年1月25日、グローバルで展開するAIにフォーカスしたイベント「AI Connect Japan」を開催した。本記事では「事例で語る、生成AIと非構造化データの一元化がもたらす労働環境の未来」と題したパネルディスカッションの様子をお届けする。

　非構造化データとは、整形されていないプレーンテキストやドキュメント（Word、PDF、PowerPointファイルなど）、音声、画像、動画などのデータを指し、企業情報の9割を占めるという。非構造化データのより深い分析が可能な生成AIの登場により、これまで眠っていたこれらさまざまな形式のデータが脚光を浴びつつある。

　本セッションでは、Google CloudやNEC、シナモン、そしてBoxより、企業が非構造データを活用するための生成AIにおける取り組みや今後のチャレンジについて語られた。

Google Cloud：非構造化データを活用する生成AIアプリケーションの開発支援に注力

　まずは、Google Cloud Japanのパートナーエンジニアリング技術部長である坂井俊介氏が登壇。

Google Cloud Japan パートナーエンジニアリング技術部長 坂井俊介氏

　現在の生成AIブームは、2017年にGoogleが生み出した“Transformer”と呼ばれる大規模言語モデル（LLM）が源泉であり、同社は継続してAIに注力してきている。2023年の5月の開発者向けイベントでは、ピチャイCEOがすべての製品に生成AIを組み込む姿勢を示した。

　Googleは生成AIによりどのような価値を生み出しているのか。坂井氏はまず、AIアシスタントサービスである「Gemini（旧名Bard）」を紹介。坂井氏も英語でのメール文の作成などで毎日利用しているという。

Geminiに同僚に対する英語のメールを作成してもらう

　試験運用の段階ではあるが、同じくコンシューマ向けに、検索エンジンにも生成AIを組み込んでいる。試験的機能を利用できるSearch Labsに登録する必要があるが、検索結果の上部に生成AIによる要約が表示され、情報源もあわせて提示される。　

生成AIでの検索体験「Search Generative Experience（SGE）」は、Search Labsに登録することで利用できる

　ビジネスユーザー向けには、「Gemini for Workspace（旧名Duet AI for Google Workspace）」を提供、日本語版も2024年に展開予定だ。Google Workspaceにネイティブに組み込まれた生成AI機能であり、業務をする中で自然と生成AIの恩恵を受けることができる。

　こうして、生成AIで価値を生み出していく中で、“非構造化データ”が重要になると坂井氏。「例えば既にある事例として、コールセンターの音声データをGoogleのマルチモーダルなLLMでテキスト化、それを感情分析して、コール時間などの構造データと組み合わせることで、新しいインサイトが得られる」と説明する。

　同社の今後のチャレンジは、自分達で生成AIのアプリケーションを作りたい、生成AIで新しい体験を生み出したい、というニーズに応えていくことだ。アプリ連携やチューニング、グラウンディングといった実用化に必要な要素を、企業向けのAI開発プラットフォームである「Vertex AI」の中で提供する。

　これらの機能でユーザーからの問い合わせが多いのが、ハルシネーションの課題を解決するために、独自情報に紐づけて生成AIに回答をさせる“グラウンディング”だ。Vertex AIでは、情報ソースを指定するだけで簡単にグラウンディングが実現できる。将来的にはBoxのような外部サービスのソースも指定できるようにしたいと坂井氏。

生成AIアプリケーションを実用化するのに必要な要素を提供するVertex AI

　加えて取り組むのが、著作権に対する問題だ。Googleは、Vertex AIやGoogle Workspace/Google Cloud Platform向けGeminiにおける、生成物やトレーニングデータの著作権リスクを補償している。「著作権を気にしていて、（生成AIを）使わなくなってしまうと、我々の想いとは反する。安心して生成AIを使って欲しい」と坂井氏は述べた。

NEC：業種・業務における非構造化データの活用を“cotomi”で支援

　続いて登壇したのは、NECのAI・アナリティクス統括部長 NEC Generative AI Hub シニアディレクターである孝忠大輔氏。

日本電気 AI・アナリティクス統括部長 NEC Generative AI Hub シニアディレクター 孝忠大輔氏

　NECは、2年前よりLLMの開発に不可欠なAIスーパーコンピュータの構築に取り組み、日本語性能の高さを特徴とする国産LLMを生み出している。このLLMは2023年の7月に発表、12月には言葉により未来を示し、“こと”が“みのる”ようにと「cotomi（コトミ）」と名付けられた。2024年の春には企業のDXを支える共通基盤「NEC Digital Platform」に組み込んでいく。

NECの生成AIサービスに向けた取り組みの流れ

　NECは、生成AIサービスを業種・業務に特化したモデルで展開していく予定で、3つの段階でユーザーに届けていく。ひとつ目のフェーズが個社対応、フェーズ2は業界展開、フェーズ3はパートナーシップだ。「まずはお客様と一緒になりながらcotomiをどう使うかを検証していく。目指す先は、業種・業務に特化したモデルをOne to Manyで展開すること」と孝忠氏。

　実際に進んでいるフェーズ2の業界展開としては、東北大学病院との実証実験が紹介された。特殊な用語や専門知識が必要となる医療業界に特化したLLMを、医療現場で活用してもらい、業務効率化の可能性を確認している。その他にも金融業界や自治体、製造業などで業務特化のLLMでの共創を進めているという。

　「医療業界や自治体が保持するデータはやはり非構造化データとなり、それをいかに効率的に処理できるかが重要で、いかにcotomiで処理できるかに取り組む」（孝忠氏）。

　また、フェーズ3においては、Boxのようなサービスとの接続やGoogleのModel GardenのようにユーザーがLLMを選択できるような仕組みを含めて、他社との連携も検討しながらcotomiを届けていく予定だ。

東北大学病院との実証実験

　NECがcotomiを展開していく中で今後注力するのが、基盤モデルに対するリスク評価だ。

　現在、日本も含めた各国が、AIガバナンスにおける規制やガイドラインの策定を進めている。NECでもグローバルで事業を展開する企業にcotomiを利用してもらうべく、LLMのリスク評価プロジェクトを推進している。具体的には、生成AIのリスク管理を手掛けるRobust Intelligenceと連携し、グローバルな基準でリスク評価を受けた上で、業務特化モデルを提供できるよう調整を進める。

Robust Intelligenceと連携してLLMリスク評価プロジェクトを推進中

　また、CDO（チーフデジタルオフィサー）直下に150名の組織を編成しており、生成AIの利活用を推進する組織と合わせて、AIガバナンスを担うリスクマネジメントの組織（デジタルトラスト推進統括）を設けている。「これからの組織の運営においてはアクセルとブレーキの両方がいる」と孝忠氏。生成AI利活用を支援すると同時に、臨機応変なリスク対応やルールメイキングに取り組むとした。