生成AIアプリDevOpsプラットフォームを提供する『Teammate』が、RAG開発基盤・オブザーバビリティ基盤・オープンソースモデルAPIサービスの3つの新サービスを同時リリース
Teammate Pte. Ltd.
さらに、シードラウンドで40万USD（約6,260万円※）の資金調達を本日発表し、生成AI継続的チューニングプラットフォーム「Teammate AI Services」の開発とコミュニティ支援を加速
Teammate Pte. Ltd.（本社：シンガポール、CEO：大塚 智哉）は、2024年5月16日より、既存の継続的プロンプト開発基盤「Teammate Lang」に加え、新たに以下3サービスをリリースしたことをお知らせします。
１．「Teammate Aug」アジャイル型マネージドRAG開発基盤
２．「Teammate Intel」生成AIオブザーバビリティ基盤
３．「Teammate Infer」オープンソース生成モデルのサーバーレス推論APIサービス
3つの新サービスの紹介
Teammate Aug
Teammate Augはアジャイル開発とオブザーバビリティを備えた、マネージドRAG (Retrieval-Augmented Generation) 開発基盤です。
RAGは少数データを踏まえた知識に基づく回答作成では、ファインチューニングより有利なケースが多く、ハルシネーション対策にも有効です。
特徴
・LLMへのFew-shot Learningに特化した検索サービスで、自社でベクトルデータベースの開発・運用をせずにRAGの開発が可能。
・同じデータソースから複数のモデル・ディメンジョンや異なるチャンク戦略での同時コーパス作成が可能なほか、継続的なデータ追加も可能。
・OpenAI、Cohereのモデル連携に対応しているほか、近日中にVoyage AI、Jina AIにも対応予定。また、Teammate Inferが提供するBGE, E5, PKSHA Technologyの日本語モデルなどのオープンソースモデルにも対応。埋め込み、疎ベクトル、リランキングモデルを組み合わせ、言語特化やドメイン特化モデルの活用により、精度の高いRAGを継続的に目指せる仕組みとなっている。
公式サイトはこちら
埋め込みモデル・リランキングモデルなどの選択画面
プレイグラウンド・複数コーパスの結果比較画面
Teammate Intel
Teammate IntelはLLMアプリの信頼度を高める、LLMOps向けオブザーバビリティツールです。有害スコアからRagasまで、LLMアプリの品質を分析するために必要なすべての指標を備えています。
特徴
・生成結果をパイプラインで取り込み、速度や冗長性、推定生成コストはもちろんのこと、モデレーションモデルによる有害性や、AIが正確性や回答忠実性を自動でスコア化するRagas指標セットなども監視。
・ログ一覧により、問題のある生成ログをすぐに発見可能。
・多面的に評価できるカスタマイズ性の高いダッシュボードも用意。可視化されたグラフにより、開発者ほかビジネス側も含め、生成AIが安全に運用されていることをリリース後も継続的に確認できる仕組みに。アラート機能も近日公開予定。
公式サイトはこちら
カスタマイズ可能なダッシュボード
Teammate Infer
Teammate Inferは最先端のオープンソース生成モデルのサーバーレス推論APIサービスです。多様なオープンソースモデルを生成AIアプリですぐに利用することが可能です。
特徴
・OpenAI APIと同じ形式で出力され、OpenAIのライブラリも使用可能。そのため、既存の開発コードからのマイグレーションが容易に実現。
・日本語モデルの対応を強化。CyberAgentLM2 (7B) ほか、ELYZA (13B), RakutenAI (7B)にも対応。
・英語・多言語モデルである、Llama 3やQwen、Mistralなどの各種モデルにも対応。
公式サイトはこちら
多様なオープンソースモデルが本番環境でも使えるAPIで利用可能
課題背景
CEO兼CTO 大塚のコメント
開発者が生成AI技術の社会実装を進める中で、特に課題になるのは正確性への懸念ではないかと思います。高いビジネス要求にも答えうるレベルまで、どのように正確性を高めていくかという課題に対し、継続的チューニング(CT)とオブザーバビリティは欠かせないと考えております。そこでまずは、ブラックボックスになりがちな生成AIの問題点を可視化できる環境が出発点と考え、Teammate Intelの提供を開始しました。健全なAIの発展のため、できる限り今後も基本無償にて提供していきたいと考えています。
その上でTeammateは、開発者への「選択肢」を増やしていくのが基本思想です。生成AIの課題解決のために考えうるチューニングの手段は多くあり（プロンプト改善、RAGデータの改善、生成モデルの変更など）、これらの組み合わせを数多く試すことにより、要求にも答えられるプロダクトに辿り着きやすいと考えています。今回新たに投入するRAG開発基盤（Teammate Aug）とオープンソースAPI（Teammate Infer）と、ここ数ヶ月で機能充実させているTeammate Langの生成AI A/Bテスト機能を組み合わせ、開発者が従来のコーディングから「アーキテクチャの選択」にフォーカスできるような仕組みを目指しています。
生成AIアプリケーション開発では特に、全てに使える万能的な開発手法やソリューションはないと考えています。高い正確性が求められるケースがある一方で、クリエイティビティの品質が求められるアプリもあれば、人間会話レベルの速度の実現、生成コストの低減などもあり得ます。それぞれトレードオフの関係にあることが多く、どれだけ各プロジェクトでの要件に沿った作り込みができるかが技術的評価につながってくるため、Teammate AI Servicesでニーズに応じて実現できるよう整えております。
幅広いエンジニア・AI開発者の方に使っていただくプラットフォームを目指し、従量課金体系を基本としています。個人で試したりプロトタイプを開発するレベルでは、料金がほとんどかからず試していただけます。また、将来的には、これまで機械学習(ML)が担っていた領域も生成系AIにより代替できる可能性があると考えており、より幅広いユースケース・AI開発プロジェクトに対応できるよう、機能拡充をしてまいります。
今後の展開
当社は本日、ANOBAKAおよびサイバーエージェント・キャピタルが共同で主導するシードラウンドにて、約6,260万円(40万USD)の資金調達を実施したことを発表いたしました。
▶詳細についてはこちらのプレスリリースをご覧ください。
これを機にTeammate AI Servicesの開発をさらに加速し、今後も新サービスのリリースを複数予定しているほか、既存サービスの機能拡充にも取り組んでまいります。
また、AI開発者コミュニティの発展やAI技術のオープンソース化にも投資し、ミートアップ・ハッカソンの開催など社会全体でのAI研究や技術開発に向けた環境整備にも取り組んでいくほか、今年9月のAIカンファレンス（米サンフランシスコ）ではCEO大塚の登壇も決定しており、当社のAI開発研究についても積極的に還元してまいりたいと考えております。
Teammate AI ServicesによりAIの価値ある社会実装を進め、すべての人がAIの恩恵を享受できるような社会の構築を目指してまいります。
Teammate AI Servicesについて
「Teammate AI Services」は生成AIを自社製品や業務プロセスに迅速・安全に組み込み、継続的な精度向上を可能にするエンジニア向けツールです。
プロンプト・データ（RAG）・モデル・モデレーションなど生成AI DevOpsサイクル全体での「アジャイル型開発」と「オブザーバビリティ」の実現により、生成AIの継続的チューニング(CT)を可能にします。
▶サービスページ：https://services.teammate.as/ja
Teammate Pte. Ltd. 会社概要
会社名：Teammate Pte. Ltd.
本社所在地：68 Circular Road #02-01, SINGAPORE（シンガポール）
共同創業者 CEO & CTO：大塚 智哉
共同創業者 CRO：能川 花澄
設立：2023年9月
コーポレートサイト（日本語）：https://teammate.ltd/ja
サービスサイト（日本語）：https://services.teammate.as/ja
お問い合わせ：hello@teammate.ltd
X(Twitter)：https://twitter.com/teammate_ai_jp
※2024/05/15時点の為替レート（1ドル=156.5円）で計算