実はWindows 10から準備を進めてきたMicrosoft
ローカル推論を可能にするCopilot+ PCへの最初の取り組みは、Windows 10にAI(機械学習)用のAPIやデバイス利用を可能にするドライバモデルなどの構築から始まった。AI用のWindowsML API(WinRTのAPI、MLは機械学習の意)は、Windows 10 Ver.1809で導入され、NPUを使うためのドライバMCDM(Microsoft Compute Driver Model)は、Windows 10 Ver.1903に搭載されたWDDM 2.6から定義されている。
MCDMは、従来のGPUドライバモデルをベースにしているものの、デバイス側にメモリ管理ユニット(MMU)を必須とすることなど、異なる構成のドライバモデルである。このあたりから、ローカル推論を最終目的にしていたようだ。このMCDMの上にあるのが、DirectML(Direct Machine Learning)である。
DirectMLは、ハードウェアによる機械学習用演算を行うための抽象化をする低水準APIだ。GPU、NPUを問わず、ハードウェア演算を一定のAPIの組合せで実現できる。3DグラフィックスのためのDirectXの一部であり、2019年のWindows 10 Ver.1903でWindowsに導入された。
このMCDMやDirectMLを調べるとCopilot+ PCでのローカル推論のやり方が見えてくる。仮想メモリ空間にモデル(学習済みのニューラルネットワーク)を置き、API経由でNPUを起動することで、DMAを使いNPUがモデルのパラメーターを計算、入力に応じた結果を出す。その間、メインCPUやGPUは別の作業を進めることが可能だ。
以前の記事(「AIの急速な導入がWindowsの予定を変えた!? Windows 12がすぐには出ない可能性」)で紹介したONNXは、もともとはFacebook(現Meta)で開発されていたが、2017年からMicrosoftとの共同開発のオープンソース・プロジェクトになった。
2018年に公開されたONNX Runtimeは、Microsoftが立ち上げたプロジェクトだ。当初は、Azure上でさまざまなモデルを動かすために使われていたが、Copilot+ PCでは、ローカル推論用モデルのインターフェースとなった。
またDirectMLは、Build 2024でPyTorch(Python上の機械学習ライブラリ)にも対応したことが発表された。PyTorchを使って作られたモデルは、Copilot+ PCでは、DirectML経由でNPUを使ったローカル推論が可能になる。
PyTorchも旧Facebookで、Torch計算ライブラリをベースにAI処理向けに開発された。ONNXは当初、FacebookがメンテナンスしていたPyTorchと、Caffe2の間でモデルを交換するために作られた。PyTorchはその後Caffe2を統合し、主力の機械学習ソフトウェアの1つとなった。
こうしたことから、Copilot+ PC/Windows Ver.24H2では、受け入れ可能なモデルとしてONNX、PyTorchの2つが用意された。このため、著名なモデル(たとえば物体認識のYOLOなど)が、ローカル推論モデルとしてCopilot+ PC/Windows Ver.24H2で動作するはずだ。
スマートフォンでも高性能なNPUを使いローカル推論をすることは可能で、すでにNPUを搭載したSoCを使うスマートフォンも少なくない。しかし、ノートPCに比べるとバッテリやメモリなどのリソースが限定され、Copilot+ PCと同程度のモデルをローカル推論で利用することは難しいのではないかと思われる。
Copilot+ PCと似た「ブランド」として、1990年代初頭のマルチメディアPC(MPC)があった。これは、サウンドカードとCD-ROMを搭載したPCのことだったが、今ではその影もない。しかし、サウンド機能を持たないPCはもう存在しない。また、インテルも2003年にモバイルPCで「Centrino」ブランドを立ち上げたが、そのロゴももう見かけなくなった。しかし、Centrinoが条件とした無線LANを搭載していないモバイルPCはもはや見かけない。
Copilot+ PCも同じで、いずれその名前は消えるが、高性能なNPUは残るだろう。

この連載の記事
-
第508回
PC
Scalable Vector Graphics(SVG)そもそも何なのか? -
第507回
PC
Windows 11の「開発者モード」とは何か? -
第506回
PC
Windows 11は早くも来秋登場の26H2プレビューの準備が始まる -
第505回
PC
結構変化しているWindows 11のエクスプローラーの基本設定を見直す -
第504回
PC
新しいOutlookとOutlook Classic、そろそろ古いOutlookとExchangeの組み合わせは引退の頃合いか -
第503回
PC
機能が増えたこともあり、寄せ集めから統合化に進むWindowsの便利ツール「PowerToys」 -
第502回
PC
Windows 11でBluetoothのオーディオ新規格「Bluetooth LE Audio」を試す -
第501回
PC
Windows 11 Ver.25H2での変更点、新機能を整理する -
第500回
PC
Windows 11 Ver.25H2が完成した -
第499回
PC
Windowsでの致命的だが回復可能なエラーに備える手段を2つ紹介 -
第498回
PC
Windows Terminalの安定版V1.23が公開 設定UIが改良される - この連載の一覧へ











