何も知らないが超頭の良い新卒1年目、身の丈にあったタスクを渡すのが大事
続いてナウキャスト（Finatext グループ）のプロダクトマネージャーである片山燎平氏が登壇した。ナウキャストは、証券サービスやデジタル保険、三菱UFJ銀行など、多数の金融機関の業務システムやデータ基盤を開発した実績があり、LLMに関しても自社活用に加えて、LLMを組み込んだ一気通貫でのシステム開発支援や、国内外の金融機関と業務効率化のための検証を進めている。
ナウキャスト（Finatext グループ） プロダクトマネージャー 片山燎平氏
ナウキャストが、生成AIサービスにAWSを選定した理由は、基盤モデルの選択肢の多さだ。現行のタスクでドキュメントを読み込むため、100万トークンに対応するアンソロピック（Anthropic）をホスティングしているのが大きいという。加えて、LLM単体ではなく、業務システムとの統合を前提にした開発をするため、アプリケーションの実装が容易な点も決め手となった。
プロトタイピングでは、約100銘柄を対象にLLMによる抽出精度を検証し、90%以上を達成。失敗したケースもプロンプトのカスタマイズにより解決が期待できるという。今後、本格的な導入を進め、さまざまな基盤モデルの利用や、検索サービスのKendraなどを利用したRAGやFine Tuningの効率化、業務システムとの連携強化に取り組む予定だ。
AWSの選定理由
加えて、片山氏は、業務導入におけるテーマ選定のポイントも説明。「LLMはいろいろなことができる分、テーマ選定が重要になる。プロトタイピングではなく、本格的な業務導入にはまだまだ課題が多い。万能アシスタントだったり、AGI（汎用人工知能）としての期待値は持たずに、自然言語処理の要素技術が民主化されたものと捉えると、実際の業務においてインパクトが出しやすい。たとえると、LLMは何も知らないが超頭の良い新卒1年目のようなもので、身の丈にあったタスクを渡すのが大事」（片山氏）
生成AIでMTGのインサイトの整理 ― 作業量は3分の1に
最後に金融機関向けにITサービスを展開する、シンプレクスのクロス・フロンティアディビジョン プリンシパルである氏弘一也氏が登壇。氏弘氏は、生成AI専門チームのリードとして社内の業務効率化に取り組んでいる。
シンプレクス クロス・フロンティアディビジョン プリンシパル 氏弘一也氏
シンプレクスでは、日々のスクラムイベントにて、ミーティングの音声から発話を起こし、インサイトを整理することでプロダクト改善につなげている。多くの時間を費やすこの作業を、生成AIを用いて効率化できないか検証したという。具体的には、Amazon Transcribeが話者分離と音声認識を実施、その後、Amazon Bedrockが音声認識結果の補正、ならびに情報抽出、要約、示唆出しを担う形だ。
最初の段階では、話者分離は問題なかったものの、フィラー表現などノイズ、誤表記が多発。その後、音声認識結果の補正をすることで、議事メモとして十分に活用できる品質になったという。情報抽出・要約・示唆だしに関しては、誤検知率や見逃し率などの定量評価は低かったものの、たたき台としては活用できるレベルであり、今後プロンプトの見直しや、Fine Tuningによる精度改善を考えているという。
検証の成果として、5時間分のMTGを対象に、3人日の作業を約1人日に削減できる見込みで、ミーティング中にメンバー全員が集中できるというメリットも得られた。
AWSを活用した生成系AIへの取組み内容
AWSを活用することで得られた成果やメリット
氏弘氏はAmazon Bedrock活用のメリットとして、「GUI、APIが提供されており容易に利用可能で、さまざまなAI企業が開発した基盤モデルが利用できるため、特定の企業に依存することもない。さらには、基盤モデルのホスティング作業や管理が不要で、スケーリングもAWS側で制御するため本番環境での利用も適している」と語った。
今後、音声データだけではなく企業固有のデータも言語モデルで扱い、業務ナレッジの整理や顧客接点の改善に応用できないか検討していく。
