New Relic、オブザーバビリティプラットフォーム「New Relic」とNVIDIA NIMの統合により、企業のAI導入とROIの向上を加速
New Relic株式会社
New Relicが、NVIDIA NIM推論マイクロサービスとの統合により、NVIDIA GPUに最適化された高性能モデルの開発をサポート
New Relic AI Monitoringが、NVIDIA NIMで構築されたアプリのAIスタック全体から詳細なインサイトを提供
New Relicのプラットフォームは60以上のAIインテグレーションからのデータを一元化し、包括的なオブザーバビリティを提供
※本リリースは、2024年6月21日（米国現地時間）に米国カリフォルニア州サンフランシスコで発表されたプレスリリースの抄訳版です。
デジタルビジネスにオブザーバビリティ（可観測性）プラットフォームを提供するNew Relic株式会社（本社：東京都港区、代表取締役社長：小西 真一朗、以下「New Relic」）は、生成AIアプリの開発、デプロイ、監視の複雑性とコストを削減するため、オブザーバビリティプラットフォーム「New Relic」とNVIDIA NIM（https://www.nvidia.com/ja-jp/ai/）推論マイクロサービスを統合することを発表しました。これにより、NewRelicAI Monitoring（https://newrelic.com/jp/platform/ai-monitoring）を使用して、簡単な設定でデータセキュリティを確保しながら、NVIDIANIMで構築されたアプリケーションのAIスタック全体を包括的に可視化することが可能になりました。これは、生成AIアプリケーションの配信を加速するNVIDIANIMのセルフホスト型モデルの堅牢なセキュリティ機能と操作性を補完するものです。NVIDIA NIMと統合されたNew Relicは、組織の迅速なAI導入と投資収益化をサポートします。
費用対効果に優れた高性能モデルの導入に不可欠なオブザーバビリティ
企業は、デジタル体験や生産性の向上、さらには収益拡大のために生成AIの導入を加速させています。ガートナー社は、2026年までに企業の80％以上が生成AIを使用する、または生成AIアプリを導入すると予測しています。迅速な導入や短期間での投資収益化は、企業にとって市場優位性を確保するために不可欠であり、そのカギを握るのがオブザーバビリティです。オブザーバビリティは、サービス、インフラ、AIレイヤーにわたるAIアプリケーションスタックの全体的なリアルタイムビューを提供し、効率的で信頼性と費用対効果の高い運用を可能にします。
New Relic CEO Ashan Willy（アシャン・ウィリー）のコメント
「今日の超競争市場において、AI投資の収益化を何年も待つ余裕のある企業はありません。この課題を解決するのが、AIスタック全体の可視性を提供するオブザーバビリティです。当社はAIオブザーバビリティのパイオニアとして、自社プラットフォームを拡張し、NVIDIA NIMで構築されたAIアプリとの連携を実現させました。NVIDIAのAI技術と当社のオブザーバビリティおよびAPMに対する専門性を活用することで、企業はAI競争で優位に立つことができるでしょう」
NVIDIA AIソフトウェア担当ディレクター Amanda Saunders氏のコメント
「生成AIの導入競争が加熱する中、NVIDIA NIMは、企業が迅速に本番環境にアプリケーションを導入するのに役立つでしょう。New RelicがNVIDIA NIMと統合されたことで、ITチームや開発チームは、運用に関するインサイトをすばやく観測してこれに対応し、AIアプリケーションを最適化することができるようになるでしょう」
New RelicがNVIDIA NIMで構築されたAIアプリケーションの投資収益化を加速
AIアプリケーションの導入により、技術スタックが複雑化し、セキュリティ上の懸念が高まり、さらにはコストが膨大になる可能性もあります。New Relic AI Monitoringは、データプライバシーを確保しながら、AIスタック全体のビューを、スループット、レイテンシ、コストに関する主要メトリクスとともに提供します。さらに、サービスやモデル間のリクエストフローを追跡し、AIアプリの内部動作の理解を可能にします。New Relicの緻密な監視機能がNVIDIA NIMに適用されたことで、DatabricksのDBRX、 GoogleのGemma、MetaのLlama 3、MicrosoftのPhi-3、Mistral LargeおよびMixtral 8x22B、SnowflakeのArcticなど、幅広いAIモデルがサポートされるようになりました。これにより組織は、NVIDIA NIMで構築されたAIアプリを安心して導入し、市場投入までの時間を削減し、ROIを向上させることが可能になります。
AI Monitoringの主な機能とユースケース：
- AIスタック全体の可視化：NVIDIA GPUベースのインフラ、AIレイヤー、レスポンス品質、トークンカウント、APMゴールデンシグナルなど、アプリの全体的なビューで問題を迅速に検出
- すべてのレスポンスを詳細に追跡：バイアス、有害性、ハルシネーションのようなパフォーマンスと品質に関する問題をAIレスポンスのライフサイクルを追跡することにより解決
- モデルインベントリ：NVIDIA NIM推論マイクロサービス全体にわたる主要メトリクスを一元的に追跡することで、モデル由来のパフォーマンス、エラー、コストに関する問題を容易に特定
- モデル比較：本番環境で稼働するNVIDIA NIM推論マイクロサービスのパフォーマンスを単一のビューで比較し、インフラやユーザーのニーズに応じたモデル選択を最適化
- GPUの詳細なインサイト：GPU使用率、温度、パフォーマンス状況のような重要な高速コンピューティングメトリクスを分析し、コンテキストを理解した上で、問題を迅速に解決
- 強化されたデータセキュリティ：NVIDIAのセルフホスト型セキュリティの利点に加え、New RelicではAIのリクエストとレスポンスから機密データ（PII）の監視を除外することが可能
New Relic、NVIDIAとの連携で60以上のAIインテグレーションエコシステムを強化
今回の統合は、New RelicがNVIDIAのAIOpsパートナーエコシステム（https://blogs.nvidia.com/blog/aiops-partners-gtc-2024/）に新たに加わったことに続くものです。NewRellicは、NVIDIAAIの高速コンピューティングを活用し、オブザーバビリティとAIを融合させることで、IT業務を合理化し、機械学習と生成AIのアシスタントであるNew Relic AI（https://newrelic.com/jp/platform/applied-intelligence）によるイノベーションを加速させます。NewRelicは、NVIDIAGPU（https://newrelic.com/jp/instant-observability/nvidia-gpu）やNVIDIATriton（https://newrelic.com/jp/instant-observability/nvidia-triton）InferenceServerソフトウェアなど、60以上のAIインテグレーションを通じて、最も幅広いオブザーバビリティソリューションを提供しています。
New Relic AI Monitoringは、オールインワンのオブザーバビリティプラットフォームであるNew Relicの一部として、シンプルで透明性の高い価格体系で利用できます。利用開始にあたっては、New Relic営業担当者にご連絡いただくか、無料アカウントにご登録ください。（https://newrelic.com/jp/sign-up-japan）
詳細は以下をご覧ください。
- New Relicのブログ記事や動画（https://newrelic.com/jp/blog/how-to-relic/ai-monitoring-for-nvidia-nim）
- NVIDIAのブログ記事（英語）（https://blogs.nvidia.com/blog/aiops-partners-gtc-2024/）
- New Relic AI Monitoring GAに関するプレスリリース（https://newrelic.com/jp/press-release/20240423）
- New Relic AI Monitoringのウェブページ（https://newrelic.com/jp/platform/ai-monitoring）
- New Relic AIのウェブページ（https://newrelic.com/jp/platform/new-relic-ai）
■本プレスリリースのURLはこちらです。
https://newrelic.com/jp/press-release/20240711
■New Relicのファクトシートやロゴ等は、以下からご確認いただけます。
https://newrelic.com/jp/about/media-assets
■New Relicについて
2008年に創業したNew Relicは、業界におけるリーダーとして、デジタルビジネスのあらゆる重要指標を観測可能にする「オブザーバビリティ（可観測性）プラットフォーム」を提供しています。デジタルビジネスを構成するアプリケーションやインフラストラクチャだけでなく、ユーザー側の顧客体験状況までをも観測可能にするため、企業はデジタルサービスの障害検知、顧客体験の低下検知、潜在的な問題やボトルネックを早期特定し解決するDevOpsチームを生み出します。これにより、企業は取り組むべきデジタル変革を、計測可能な戦略へと変化させることができます。New Relicの全世界顧客数は16,000以上、Fortune 100企業の過半数で採用されており、日本でも数百社を超えるお客様のデジタル変革を支援しています。New Relicが支持されている理由は、newrelic.com/jpをご覧ください。
■オブザーバビリティ（可観測性）プラットフォーム「New Relic」の特長
New Relicはオブザーバビリティのリーダーとして、優れたソフトウェアの計画、構築、デプロイ、実行に対するデータドリブンなアプローチでエンジニアを支援しています。New Relicは、エンジニアがあらゆるテレメトリー（メトリクス、イベント、ログ、トレース）を取得できる唯一の統合データプラットフォームを提供し、強力なフルスタック分析ツールとの組み合わせにより、エンジニアが意見ではなくデータを用いて最高の仕事をできるよう支援します。New Relicは、シンプルで透明性の高い価格体系を採用しています。開発サイクルタイムの計画、変更失敗率、リリース頻度、平均復旧時間（MTTR）の改善を支援することにより、エンジニアに高い費用対効果をもたらします。
※New Relicは、New Relic, Inc.の登録商標です。
※本文書内の製品名および会社名は全て、それらの登録名義人の商標である場合があります。
将来予想に関する記述
本資料は関係情報の開示のみを目的として作成されたものであり、有価証券の取得または売付けの勧誘または申込みを構成するものではありません。本資料は、正確性を期すべく慎重に作成されていますが、完全性を保証するものではありません。また本資料の作成にあたり、当社に入手可能な第三者情報に依拠しておりますが、かかる第三者情報の実際の正確性および完全性について、当社が表明・保証するものではありません。当社は、本資料の記述に依拠したことにより生じる損害について一切の責任を負いません。本資料の情報は、事前の通知なく変更される可能性があります。本資料には将来予想に関する見通し情報が含まれます。これらの記述は、現在の見込、予測およびリスクを伴う想定（一般的な経済状況および業界または市場の状況を含みますがこれらに限定されません）に基づいており、実際の業績とは大きく異なる可能性があります。今後、新たな情報、将来の事象の発生またはその他いかなる理由があっても、当社は本資料の将来に関する記述を更新または修正する義務を負うものではありません。