Arm向けに最適化されたAIモデルを、性能比較から実装用コード、配備手順までつなげて利用できるようになった。開発支援サービスArm AI Portalは、実行先に合うモデル選びを支える一方、持ち込みモデルの解析・最適化ツールは今後の提供とする。
性能と精度を見て実装手順へ進む
Armは9月8日、AI開発支援サービスのArm AI Portalを公開した。開発者は用途別に最適化されたモデルを探し、性能と精度のデータを確認できる。
比較できる項目には遅延、メモリー使用量、モデルサイズがある。候補を選んだ後はコード例と配備手順へ進めるため、モデルの探索と実装の準備が同じ入口につながる。
最適化済みモデルを実行基盤と組み合わせる
公開時には、言語モデル群のAlibaba QwenとGoogle Gemma、画像認識モデル群のUltralytics YOLOが最適化済みモデルに含まれる。モデルを実行するランタイムにはExecuTorch、LiteRT、ONNX-RTを用いる。
Arm向け最適化済みモデルは、モデル配布基盤のHugging Faceを通じても提供される。ポータルでの選定に加え、開発者が利用する配布基盤からモデルを入手する経路も用意した。
画像認識の性能例は端末と数値精度で条件を分ける
Armが公表した性能例では、画像認識モデルUltralytics YOLO26nが、スマートフォンのvivo X300で40%超の性能向上を示した。単一スレッドで行列演算拡張のSME2を使い、FP32からFP16へ変更した比較である。
小型コンピューターのRaspberry Pi 5でも、同じモデルが40%超の性能向上を示した。こちらは単一スレッドでベクトル演算機能のNEONを使い、FP32に対してFP16とINT8を組み合わせた混合量子化を適用した条件となる。
エージェント向け経路を早期提供する
コーディングエージェントには、外部資源への接続に使うMCPを介してポータル資源へアクセスする経路を設けた。Armはエージェント向けAI資源を、一般公開に先立つ早期アクセスとして提供している。
持ち込みモデルへの対応は次の提供段階となる。Armは、独自モデルを含めて性能解析と最適化を行うツールを近く提供する予定としている。