アクセル
Intel XMXを使用した高速推論をサポートするailia SDK 1.5
東京（2024年12月23日）- 株式会社アクセル（本社：東京都千代田区；代表者：斉藤 昭宏；以下「アクセル」）とインテルコーポレーション（2200 Mission College Blvd., Santa Clara, CA 95054; 以下「インテル」）は、アクセルおよびそのグループ会社であるax株式会社（本社：東京都渋谷区；代表者：寺田健彦；以下「ax」）が独自に開発したAIフレームワークailia SDKを使用した高速AI推論に関するコラボレーションを発表しました。
ailia SDKは、アクセルおよびaxによって開発されたクロスプラットフォームフレームワークであり、高速AI推論のために設計されています。ailia SDKを使用することで、AIはエッジデバイス上で実行され、通信環境やサーバーに依存しないことで安定性が向上し、エッジ処理を通じて低遅延が実現され、APIコストが削減されます。
インテルとの協力により、ailia SDKは、Intel(R) Arc(TM)ディスクリートGPUおよびIntel(R) Core(TM) Ultraプロセッサ（シリーズ2）用のIntel(R) Xe Matrix Extensions（XMX）を使用した高速推論をサポートするようになりました。GPUのXeコア内に構築されたXMX AIエンジンは、ailia SDKのVulkan(R)バックエンドに推論ワークロードのための専用アクセラレーションを提供しパフォーマンス向上を実現します。
RAG（Retrieval-Augmented Generation）での文書登録の評価では、生成AIとしての使用が増えている中、Intel(R) Arc(TM) A770 GPUはXMXが無効の場合304.5ミリ秒かかりますが、XMXを有効にすると184.25ミリ秒で処理が可能となり、パフォーマンスが40％向上します。（アクセルによる測定）
さらに、XMXをサポートすることで、ailia SDKを使用するアプリケーションも加速されます。
アクセルのDXに焦点を当てたアプリケーションであるailia DX Insightは、バックエンドにailia SDKを使用しており、将来のリリースでXMXをサポートする予定です。
アクセルの常務取締役兼CTOである客野 一樹のコメント
「XMXは行列乗算を非常に迅速に計算することができ、現代のトランスフォーマーモデルの加速を可能にします。
XMXを使用することで、処理速度の問題で以前は実行が困難だったAIモデルを現在ではインテルプラットフォーム上で実行できます。 私たちの会社は、ailia SDKのためのXMXサポートを通じて、AI時代の新しいアプリケーションの実現に貢献することを目指しています。」
インテルコーポレーションでVPおよびGMクライアントソフトウェアのイネーブリングを担当するカーラ・ロドリゲスからのコメント
「私たちは、アクセルと提携して、ailia SDKおよびailia DX Insightの新しいリリースでインテルグラフィックス上のXMXテクノロジーを提供することに興奮しています。当社のコラボレーションの結果、アクセルのビジネスユーザーは、インテル製AI PC上でAIワークロードを実行する際に、パフォーマンスが向上することを体験できるようになりました。私たちは、将来のコラボレーションを通じて、インテルAI PCとアクセルの技術を活用し、エンドユーザーにさらなるメリットを提供することを楽しみにしています。」
今後、アクセルはインテルとの協力により、インテルプラットフォーム用にailia SDKを最適化することで、AIの実用化に貢献します。
【アクセルについて】
アクセルは、高度なアルゴリズム開発から製品化を担うソフトウェア・ハードウェア開発まで一貫した開発体制を保有する先端テクノロジー企業です。大規模なLSIの設計開発に加え、機械学習/AIや暗号・ブロックチェーン技術等の先端技術を社会実装することで、デジタル技術によるビジネス改革に貢献することを企業使命としています。
https://www.axell.co.jp/
【axについて】
axは株式会社アクセルのAI・機械学習及びミドルウェア領域の事業を推進するグループ企業として2019年５月に設立されました。独自開発したディープラーニング・フレームワーク「ailia SDK」の開発、販売に加え、AIの実装コンサルティングや学習支援、各種プラットフォームへのポーティングなど、お客さまの様々なニーズに応じてAI実用化に向けたトータルソリューションを提供しています。また、主にゲーミング市場に向けたミドルウェア「AXIP」シリーズの販売にも注力しています。
https://axinc.jp/
■このリリースの連絡先情報
株式会社アクセル
E-mail kouhou@axell.co.jp
- インテルのテクノロジーは、有効なハードウェア、ソフトウェア、またはサービスのアクティベーションが必要です。どの製品や部品も完全に安全であるとは限りません。費用や結果は異なる場合があります。
- インテルコーポレーション(C)。インテル、インテルのロゴ、およびその他のインテルのマークは、インテルコーポレーションまたはその子会社の商標です。
- Vulkan および Vulkan ロゴは Khronos Group Inc. の登録商標です。
- 他の会社名、製品名、サービス名、標準名などは一般に当社および各該当会社または組織の登録商標または商標です。
