rinnaはCTCと協力してキャラクター性に特化したLLMのビジネス実装を加速
パネルディスカッションの他にも、マネタイズに取り組むパートナーとしてrinnaの宋氏とパートナーシップを組むCTCの藤澤氏がオンラインで登壇した。
rinna 事業開発部マネージャー 宋珠憲氏
伊藤忠テクノソリューションズ 新事業創出・DX推進グループ DXビジネス推進事業部 AIビジネス部課長 藤澤好民氏
マイクロソフトから2020年にスピンアウトしたスタートアップ企業であるrinnaは、AIキャラクターのフラグシップといえる看板娘「りんな」やAIキャラクターを構成するためのAI技術、LLMを主軸にサービスを展開している。多種多様な言語・画像・音声の事前学習モデルを一般公開しており、2021年4月からの累計ダウンロード数は550万以上、日本語に特化したAIの研究開発を続けてきた。
rinnaが揃えるLLMは、これまで研究・開発してきたAIモデルをベースにテキスト生成や音声合成、テキスト分析などを提供する“Tamashiru”、さらにサードパーティのLLMやユーザーの独自データを組み合わせて独自のLLMを構築する“Tamashiru Custom”だ。2023年8月に公開されたTamashiru Customは、同社の主力ソリューションであり、宋氏は「お客様専用の環境にモデルやシステムが立ち上がるため、外部のクラウドサービスの利用中に課題となりうる大幅な仕様変更（料金や利用規約の改定など）の心配もなく、柔軟に対応できる」と説明する。
rinnaのAIソリューション
Tamashiru Customのアーキテクチャー
rinna＋Azure Open AI
rinnaのAIモデルは、特にキャラクター性を出したかったり、より正確なデータ出力を求めていたり、安定したシステムを求めている企業、組織での導入実績が多い。自治体やロボティクス、EC、ゲーム、小売を中心に採用が進んでいる。
ある大手Slerでは、業界特有の業務データを用いたAIサービスを開発するために、独自のLLMを必要としていた。そこでrinnaは、ユーザーの業務データを基にファインチューニングを施し、独自LLMを構築した。「ファインチューニングで失敗することを心配する企業が多いが、rinnaの場合は5つのベースモデルすべてでファインチューニングを行い、その出力データを評価してLLMを選択できるため満足度が高い」と宋氏。
rinnaの日本語に特化したAIモデルの提供実績
そしてrinnaは、ビジネスでの実装加速を目指し、2023年10月に伊藤忠テクノソリューションズ（CTC）とLLMエコシステムの構築に向けた協業を開始。CTCの藤澤氏は、「周辺技術を含めて、RAGであったりLLM自体の開発などを1社でやりきるのは難しい」と協業の経緯を説明。自社リソースだけではなく、さまざまなパートナーと協力し、顧客を支援するための生成AIパートナーエコシステムの構築を進めていくという。
CTCの生成AI(LLM)エコシステムによる課題解決
すでに11社が事例を創出、4月にはRAG実装のコンテスト「AI Challenge Day」を神戸で開催
Columbus DAYでは、月ごとのテーマに沿ったセッションの他にも、AIの基礎から最新情報までを学べる“AI Learn Session”も展開する。複数のセッションから選択でき、筆者は「AI応用編」に参加したが、Microsoft AIの概要や、Copilot StudioやAzure AI Studioの詳細を、最新情報を交えて学ぶことができた。
今回のColumbus DAYには、オンラインを含めて600名以上が参加した。今後も9月まで、毎月1回のペースで開催される。
また、新たな企画として、生成AIのシナリオで一番多いであろう“RAG”を題材とした開発コンテスト「AI Challenge Day」の開催も発表された。4月18日、19日の二日間にわたり、“Microsoft AI Co-Innovation Lab 神戸”で開催され、生成AI事業化支援プログラムの参加企業は無償でエントリーできる。RAGアーキテクチャーを実装したアプリケーションの開発を競い合ってもらい、そこから互いに学び合うような場所にしたいという。
“RAG”を題材としたコンテストを神戸のCo-Innovation Labで開催
プログラムで目標としている事例創出に関しても、2月27日現在で、11 社からの登録があったという。今月のイベントから、最も事例登録が多い企業が表彰され、23件もの事例を生み出したシステムサポートが選ばれた。今年の事例創出の目標は100件とのことだが、同社だけで4分の1近くを達成。プログラムでの手厚い後押しの効果もあり、500件の事例創出は、3年も必要としない勢いだ。
イベント終了後のネットワーキングの様子、部屋に入りきれないほどの盛況さで、参加パートナーの熱意が伝わった
