NVIDIAとVMwareは8月23日、企業向け生成AIプラットフォーム「VMware Private AI Foundation with NVIDIA」を発表した。VMwareより2024年初頭に提供を開始する予定。
VMware Private AI Foundation with NVIDIAは、ユーザーがモデルをカスタマイズし、インテリジェントなチャットボット、アシスタント、検索、要約などの生成AIアプリケーションを実行できる、企業向けのAIプラットフォーム。VMware Cloud Foundation上に構築され、AI向けに最適化されたNVIDIAの生成AIソフトウェアとアクセラレーテッドコンピューティングを提供する。
本プラットフォームではデータのプライバシーを保護し、安全なアクセスを可能にするため、データのある場所に隣接してAIサービスを実行する構造を採用。導入企業は「NVIDIA NeMo」や「Llama 2」などの大規模言語モデルを活用できる。
本システムにはNVIDIAのデータセンター向けハードウェア「NVIDIA L40S GPU」「NVIDIA BlueField-3 DPU」「NVIDIA ConnectX-7 SmartNIC」を搭載し、デル・テクノロジーズ、HPE、Lenovoがサポートする。
