デル・テクノロジーズ株式会社
和製生成AI / 日本語LLMの開発や、広告でのAI活用に役立てるため、「Dell PowerEdge XE9680」サーバーで支援
デル・テクノロジーズ株式会社(本社:東京都千代田区、代表取締役社長:大塚 俊彦、以下、デル・テクノロジーズ、URL:https://www.dell.com/ja-jp )は、株式会社サイバーエージェント(本社:東京都渋谷区、代表取締役:藤田 晋、以下サイバーエージェント、URL:https://www.cyberagent.co.jp/ )が、和製生成AI開発とデジタル広告の機械学習基盤に「Dell PowerEdge XE9680」(以下、PowerEdge XE9680)サーバーを採用したことを発表しました。
サイバーエージェントは、「PowerEdge XE9680」サーバーを導入することにより、シンプルで使いやすい管理ツールの「iDRAC(Integrated Dell Remote Access Controller)」を活用しながら、従来製品と比較して約5.14倍の性能向上を実現しました。また、今後、LLM(大規模言語モデル)含めた特定の計算アルゴリズムを高速化する「Transformer Engine」への最適化を行うことで十数倍の性能向上を期待しており、日本語LLMの更新をより早く頻繁に行えるようになるだけでなく、最新のデータセットに合わせた機械学習モデルのファインチューニングも高速に行えるようになることで、キャッチコピー候補の精度向上も期待しています。
■ 「PowerEdge XE9680」サーバー採用までの背景
2016年より、広告事業領域においてAIの研究・開発を積極的に行っているサイバーエージェントは、2020年に効果予測AIで広告効果を最大化する「極予測AI」の提供を開始しました。その当時、最新の「NVIDIA(R) A100 GPU」が登場したことを機に、独自の機械学習基盤のためのデータセンターで運用するGPUサーバーとして「NVIDIA(R) A100 GPU」を搭載した「Dell PowerEdge XE8545」を採用していました。
その後、サイバーエージェントは130億パラメーターからなる、独自の日本語LLMを開発しました。「極予測AI」をはじめとするAIを活用した広告クリエイティブ制作領域のサービスにおいて活用を始め、各広告媒体のユーザー層に適した広告キャッチコピー等の制作に活かしています。また、2023年5月には、和製生成AI開発基盤用に、最大68億パラメーターの日本語LLMを、OpenCALM(オープンカーム)という名称で商用利用可能なオープンソースのLLMとして公開しています。
LLMへの最適化も見据え、新規のAI開発基盤導入の検討を始めたサイバーエージェントは、サーバーメーカー各社のモデルを比較した結果、最終的に、8基の「NVIDIA(R) H100 GPU」を搭載した「PowerEdge XE9680」サーバーを採用するに至りました。
■ デル・テクノロジーズ ソリューション採用の理由
サイバーエージェントは、「PowerEdge XE9680」サーバーを採用した理由として以下をあげています。
・「NVIDIA(R) H100 GPU」を搭載したサーバーとして、「PowerEdge XE9680」が、タイムリーにリリースされた点
・4時間オンサイトなどの高い保守レベルを実現
・これまで利用していた「PowerEdge XE8545」の安定した保守サポートの実績
・使いやすいリモート管理ツール「iDRAC」
また、発熱量が多いGPUサーバーの冷却設計において、「PowerEdge XE9680」は、8Uが主流の中、わずか6Uのサイズでしっかりと効率的に冷却できる点も、大きな評価ポイントでした。
■ 導入後の効果
「PowerEdge XE9680」の導入により、従来製品に比べて約5.14倍の性能向上を実現しました。また、今後、LLM含めた特定の計算アルゴリズムを高速化する「Transformer Engine」への最適化を行うことで十数倍の性能向上ができることを期待しています。日本語LLMの更新をより早く頻繁に行えるようになるだけでなく、最新のデータセットに合わせた機械学習モデルのファインチューニングも高速に行えるようになることで、キャッチコピー候補の精度を上げることも期待しています。
また、より大量のリソースを確保できて、課金額を気にせずに安心して利用できる点など、お客様からの好評価も得ています。お客様がビジネスインパクトを出せるように、ハイスペックなインフラを提供することができたことは大きな成果となりました。さらに、リモート対応ができる「iDRAC」は、OSを介さずにGPUの温度や状態を確認することができ、ファームウェアの更新もできるなど、管理負荷が低減されました。
■ コメント
株式会社サイバーエージェント グループIT推進本部CIU, Solution Architect 高橋 大輔 様は、次のようにコメントしています。「生成AI用途にも最適な「NVIDIA(R) H100 GPU」の効果を生かせる「PowerEdge XE9680」サーバーが、タイムリーにリリースされることがわかったため、いち早く導入することにしました。どのような構成になるかなどの情報をデル・テクノロジーズと密にやり取りできたことも良かったです。4時間オンサイトなどの高い保守レベルを実現してくれた点もうれしいポイントでした。過去導入した「PowerEdge XE8545」などを安定して保守してくれていたことや、管理ツールの「iDRAC」が使いやすいことも「PowerEdge XE9680」を採用した理由の1つです」。
# # #
■デル・テクノロジーズについて
デル・テクノロジーズ(NYSE:DELL)は、企業や人々がデジタルの未来を築き、仕事や生活の仕方を変革することを支援します。同社は、データ時代に向けて、業界で最も包括的かつ革新的なテクノロジーとサービスのポートフォリオをお客様に提供しています。
■サイバーエージェントについて:
国内トップシェアを誇るインターネット広告事業や新しい未来のテレビ「ABEMA」を展開。 インターネット産業の変化に合わせ新規事業を生み出しながら事業拡大を続けている。2016年に研究開発組織「AI Lab」を設立。社会実装および学術貢献を目指し研究開発に取り組んでいる。
# # #
(C) Copyright 2023 Dell Inc.、その関連会社。All Rights Reserved.
Dell Technologiesが提供する製品及びサービスにかかる商標は、米国Dell Inc. 又はその関連会社の商標又は登録商標です。その他の製品の登録商標および商標は、それぞれの会社に帰属します。