New Relic、AIモニタリングの提供でAWSとの関係を強化
New Relic株式会社
New Relic AI MonitoringとAmazon Bedrockの連携により、パフォーマンス、品質、コストを最適化し、AIアプリケーションの構築および実行を支援
※本リリースは、2023年11月14日（米国現地時間）に米国カリフォルニア州サンフランシスコで発表されたプレスリリースの抄訳版です。
デジタルビジネスにオブザーバビリティ（可観測性）プラットフォームを提供するNew Relic株式会社（本社：東京都港区、代表取締役社長：小西 真一朗、以下「New Relic」）は、AIアプリケーション向け、業界初のAPMソリューションの1つである、New Relic AI Monitoring（AIM）を、Amazon Bedrockと統合することを発表しました。
Amazon Bedrockは、Amazon Web Services, Inc.（AWS）により管理されたサービスで、生成AIアプリケーションを構築および拡張するために、大手AI企業の基盤モデル（FM）にAPI経由でアクセスできるようにします。AWSのお客様は、New Relicを使用してAIスタック全体の可視性と洞察をさらに高めることができるようになり、アプリケーションのパフォーマンスや品質、コストに関して、トラブルシューティングと最適化がしやすくなります。
AIは、最新のアプリケーションに大きな変革をもたらしますが、組織の技術スタックに新たな課題と複雑さも提示しています。AI技術スタックには、大規模言語モデル（LLM）やベクトルデータストアなどの新規コンポーネントが含まれており、品質やコストなどを追跡する追加のテレメトリーを生成します。AIMでは、APMをAIスタックに導入することで、これらの新たな課題を解決します。エンジニアがNew Relic APMを使用してアプリケーションスタックを監視する方法と同様に、AIMによりエンジニアはAIスタックの全コンポーネントを完全に可視化できます。AIMは、Amazon Bedrockでサポート対象の全モデルに対して、パフォーマンス、コスト、トークン、幻覚症状、バイアス、有害性、公平性などの品質問題に関するさまざまなLLMプロンプトとレスポンスをトラブルシューティング、比較、最適化するための単一のビューを提供します。
AIMは、Amazon Bedrockと連携して、詳細なエンドツーエンドのオブザーバビリティを実現します。AIMのビルトインインテグレーション（LangChainなど）により、Amazon Bedrockの顧客は、生のプロンプトから、修正され ビジネスに適合したレスポンスに至るまで、LLMプロンプトとレスポンスのライフサイクル全体にわたるメトリクスとトレースを取得できます。
主な機能とユースケースは以下の通りです。
自動計装：New Relicのエージェントには、完全なAIスタックの可視化、応答トレース、モデル比較などを含むあらゆるAIM機能が用意されており、迅速かつ簡単に設定可能
フルスタックAIの可視性：応答品質やトークンなどのAIメトリクスとAPMゴールデンシグナルを含む、アプリケーション、インフラストラクチャ、AIレイヤーにわたる全体的なビュー
すべてのLLM応答の詳細なトレースに関する洞察：LangChainなどのツールで構築された複雑なLLM応答のライフサイクルを追跡し、バイアス、有害性、幻覚症状などのパフォーマンスの問題や品質問題を修正
パフォーマンスとコストの比較：すべてのモデルの使用状況、パフォーマンス、品質、コストを単一ビューで追跡。よく使われるプロンプト、思考の連鎖（Chain of Thought）、プロンプトのテンプレートやキャッシュに関する洞察により、AIの使用を最適化
責任あるAIの使用を可能に：応答がAIによって生成されたことを示す適切なタグを付与し、バイアス、有害性、幻覚症状がないことを検証することにより、安全なAIの使用を可能に
AIエコシステムを即座に監視：50以上のインテグレーションをサポートし、あらゆるAIエコシステムのスタック全体を監視する最も包括的なソリューション
オーケストレーションフレームワーク：LangChain
ベクトルデータベース：Pinecone、Weaviate、Milvus、FAISS、Zilliz
LLM：Amazon Bedrock（AI21 Labs、Amazon、Anthropic、Cohereのモデル）
機械学習サービス：Amazon SageMaker
New Relic 最高製品責任者 Manav Khuranaのコメント
「AIワークロードは現在、組織の最新アプリケーションアーキテクチャーの一部となっており、AIアプリケーションを構築する企業にとってオブザーバビリティは不可欠です。AIMとAmazon Bedrockの連携は、AWSとの深い連携に基づいており、技術スタックを最新化しているエンジニアや開発者にオブザーバビリティの威力をもたらすでしょう。また、当社のAIモニタリングソリューションをAWSの顧客の中心に置くことで、Anthropicのような主要なLLMを使用して、すべてのエンジニアに活用してもらえるよう一層努力してまいります。」
New Relic AIMは、New RelicとAWSとの深い連携に基づいて構築されており、95を超える既存のAWSインテグレーションに追加されています。AIMは、世界中のNew RelicユーザーとAWSユーザーが早期アクセスして、ご利用いただけます。ユーザーはこちらでサインアップして早期アクセスをリクエストできます。New Relicのシンプルで透明性の高い価格設定の一部に含まれています。詳細は以下をご覧ください。
Web ページ
https://newrelic.com/jp/platform/ai-monitoring
ブログ
https://newrelic.com/jp/blog/how-to-relic/ai-monitoring
New Relic AIモニタリングに関するプレスリリース
https://newrelic.com/jp/press-release/20231206
■本プレスリリースのURLはこちらです。
https://newrelic.com/jp/press-release/20231206-1
■New Relicのファクトシートやロゴ等は、以下からご確認いただけます。
https://newrelic.com/jp/about/media-assets
■New Relicについて
2008年に創業したNew Relic は、デジタルビジネスのあらゆる重要指標を観測可能にする「オブザーバビリティ（可観測性）プラットフォーム」を提供しています。デジタルビジネスを構成するアプリケーションやインフラストラクチャだけでなく、ユーザー側の顧客体験状況までをも観測可能にするため、企業はデジタルサービスの障害検知、顧客体験の低下検知、潜在的な問題やボトルネックを早期特定し解決するDevOps チームを生み出します。これにより、企業は取り組むべきデジタル変革を、計測可能な戦略へと変化させることができます。New Relicの全世界顧客数は16,000以上、Fortune 100企業の過半数で採用されており、日本でも数百社を超えるお客様のデジタル変革を支援しています。New Relicが支持されている理由は、newrelic.com/jpをご覧ください。
■オブザーバビリティ（可観測性）プラットフォーム「New Relic」について
New Relic はお客様がより完璧なソフトウェアを作成するために構築された、最も強力なクラウドベースの観測プラットフォームです。世界中のエンジニアリングチームがNew Relic を利用して、アップタイムとパフォーマンスの向上、規模と効率の向上、市場投入までの時間の短縮を実現しています。New Relic には、組織がオブザーバビリティを実現するために必要なすべての機能が含まれています。
・Telemetry Data Platform:
ペタバイト規模であらゆるタイプのアプリケーションやインフラストラクチャのデータを収集、可視化することができます。これは、すべての運用データの単一で正しいソースとなるように設計されています。
・Full Stack Observability:
APM、インフラストラクチャ、ログ、デジタルカスタマーエクスペリエンスにまたがるソフトウェアスタック全体を1つのコネクテッドエクスペリエンスで簡単に分析し、トラブルシューティングを行います。
※New Relic は、New Relic, Inc.の登録商標です。
※本文書内の製品名および会社名は全て、それらの登録名義人の商標である場合があります。
将来予想に関する記述
本資料は関係情報の開示のみを目的として作成されたものであり、有価証券の取得または売付けの勧誘または申込みを構成するものではありません。本資料は、正確性を期すべく慎重に作成されていますが、完全性を保証するものではありません。また本資料の作成にあたり、当社に入手可能な第三者情報に依拠しておりますが、かかる第三者情報の実際の正確性および完全性について、当社が表明・保証するものではありません。当社は、本資料の記述に依拠したことにより生じる損害について一切の責任を負いません。本資料の情報は、事前の通知なく変更される可能性があります。本資料には将来予想に関する見通し情報が含まれます。これらの記述は、現在の見込、予測およびリスクを伴う想定（一般的な経済状況および業界または市場の状況を含みますがこれらに限定されません）に基づいており、実際の業績とは大きく異なる可能性があります。今後、新たな情報、将来の事象の発生またはその他いかなる理由があっても、当社は本資料の将来に関する記述を更新または修正する義務を負うものではありません。