アドバンテック株式会社
NVIDIA AI Enterprise対応 高性能な生成AIトレーニングサーバー
アドバンテック株式会社（TWSE:2395 東京都台東区、以下、アドバンテック)は、Phison社(本社：台湾)の特許技術である大量のデータをエッジで効率的に処理するためのAIシステム「aiDAPTIV+」 に対応したエッジAIサーバー「AIR-520」の発売を開始します。
▶ Phison社 「aiDAPTIV+」について
「AIR-520」は、AMD EPYC 7003シリーズプロセッサ、SQ ai100 AI SSD、NVIDIA GPUカードなど高性能のハードウェアに加え、開発を支援するツール「NVIDIA AI Enterprise」と「Edga AI SDK」を提供することで迅速な運用を実現します。
LLM(大規模言語モデル)などの生成AIツールは、データの整理、検索、分析の自動化やカスタム化をすることで、より精度を高めることができますがそれにはコストがかかる場合があります。「AIR-520」は、最大4枚のNVIDIA GPUカードと「aiDAPTIV+」 と「SQ ai100 AI SSD」により、LLMの微調整を可能にしました。またこの微調整はインターネットを介さずオンプレミスで実行できるので、お客様は安全な環境下で効率のよいLLMトレーニングが可能となります。
多様なアプリケーションに合わせて設計された4つのモデル
「AIR-520」はシステム規模やアプリケーションに合わせて、“L13B”、“L33B”、“L70B”、“L70B Plus”の 4モデルをラインナップしました。
● L13B ・・・ チャットボットや言語翻訳などのリアルタイムアプリケーションに最適です。
● L33B ・・・ コンテンツ作成における生産性と革新を向上させる複雑なタスクに適しています。
● L70B ・・・ 専門分野の高度なデータ分析と意思決定に優れています。
● L70B Plus ・・・生成AI用ソフトウェアプラットフォーム「NVIDIA AI Enterprise」に対応することで、開発ツール、フレームワーク、学習済みモデルが利用できるだけでなく、パフォーマンスやセキュリティを確保するための信頼性の高い管理とサポートサービスも提供します。
▶ エンタープライズ向け 生成AI用ソフトウェアプラットフォーム 「NVIDIA AI Enterprise」
コスト効率の最適化と設置の容易性
すべてモデルには、Phison社の「aiDAPTIV+ 」技術を活用した「SQ ai100 AI SSD」が搭載されています。これらのSSDはGPU VRAMの拡張として機能し、最小限のGPUカードでLLMを微調整することが可能なためコストをおさえることが可能です。また「AIR-520」の本体サイズは、380(幅) x 176(高さ) x 454.1(奥行き) mmとデスクトップPCと同等で、従来の大型ラックマウントサーバーと比べスリム仕様であり、4Uのラックマウントに設置することが可能です。
「Edge AI SDK」でAI開発を加速
アドバンテックはLLMの微調整に加え、生成AIトレーニングのためのAI開発キット「Edge AI SDK」を提供しています。「Edge AI SDK」は、Llama-2 7B/13B/70Bモデルなどが利用可能で、チャットボットやデータ分析などのアプリケーションに特化したLLMモデルのトレーニングと推論評価が迅速に行うことができます。さらに、アドバンテックのエッジデバイス管理ソフトウェア「DeviceOn」を用いれば、OTAソフトウェア/コンテナの更新など、リモートでの監視・制御ができるので、効率的かつ組織的に長期メンテナンスが可能になります。
▶ AI開発キットについて「Edge AI SDK」
「AIR-520」の主な仕様
「AIR-520」 製品ページ
「AIR-520」プレスリリース(英文)
※ リリースに記載されている会社名、サービス名、商品名は、各社の登録商標または商標です。
※ 本商品の仕様は予告なく変更になる場合がございます。予めご了承ください。
