端末上のAI処理を担うCPUと、ニューラルグラフィックス向けの専用アクセラレーターを持つGPUが、一つのモバイル向け計算基盤に組み込まれた。処理内容に応じて異なる演算エンジンを使う構成だ。
二つの演算エンジンを一つのモバイル基盤へ統合
Armは、モバイル向けのAIネイティブ計算基盤「Arm CSS for Mobile 2」を公開した。この基盤は、Arm C2 Ultra CPUとArm Mali G2-Ultra NX GPUという二つの新しい演算エンジンで構成される。
Armは、継続的かつ状況に応じて動くモバイルAIが、単一のワークロードやプロセッサーでは完結しないとしている。そのため、処理内容に適した演算エンジンを使うことを新基盤の設計上の前提に置いた。
SME2を備えたCPUが端末上のAI処理を担当
Arm C2 Ultra CPUは、行列演算を効率化する命令拡張のSME2を備える。AI処理で使う行列演算をCPU側で実行するための構成要素となる。
Armによると、このCPUは応答性と効率を重視した端末上のAI処理を担うという。モバイルAIのすべてを一種類のプロセッサーへ集めず、CPUに適した処理を受け持たせる構成である。
GPUに専用アクセラレーターを加えてニューラルグラフィックスを実行
Arm Mali G2-Ultra NX GPUには、専用ニューラルアクセラレーターが追加された。従来のグラフィックス演算に加え、ニューラル処理をGPU内部で受け持つ構成となる。
Armによると、この専用アクセラレーターにより、ニューラルグラフィックスをGPU上でネイティブに実行できる。端末上のAI処理をCPUが担う一方、機械学習を利用するグラフィックス処理はGPU側の専用回路へ接続される。
SME2の採用とニューラルグラフィックス協業が進行
CPU側のSME2は、Alipay、OPPO、vivoが採用している。新基盤を構成する命令拡張は、決済サービスや端末メーカーを含むパートナーの実装へ広がっている。
GPU側では、ArmがInfold Games、NetEase、Tencent Games、Unity China、Unreal Engineとニューラルグラフィックスで協業している。CPU向けのSME2採用とGPU向けの協業が、二つの演算経路に対応して進められている。