AI

Arm向けAIモデルの性能比較と実装を結ぶ開発ポータル

この記事のポイント

  1. 実現したこと

    Arm向け最適化済みAIモデルの遅延、メモリー使用量、サイズを比較し、コード例と配備手順へ進めるようになった。

  2. 実現の仕組み

    最適化済みモデルとExecuTorchなどの実行基盤を組み合わせ、モデル選定から配備までを支える。

  3. 得られた結果

    Armの性能例では、画像認識モデルYOLO26nがvivo X300の単一スレッド・SME2使用時に、FP32比でFP16の性能を40%超改善した。

  4. 従来との違い

    モデルを人が探す経路に加え、コーディングエージェントがMCP経由で資源へアクセスする経路が早期アクセスとして加わった。

スマートフォンと小型コンピューターを使った画像認識の比較を、ノートPC上の性能指標、コード例、配備ブロックへつなげて描いた編集イラスト。
AI生成画像

Arm向けに最適化されたAIモデルを、性能比較から実装用コード、配備手順までつなげて利用できるようになった。開発支援サービスArm AI Portalは、実行先に合うモデル選びを支える一方、持ち込みモデルの解析・最適化ツールは今後の提供とする。

性能と精度を見て実装手順へ進む

Armは9月8日、AI開発支援サービスのArm AI Portalを公開した。開発者は用途別に最適化されたモデルを探し、性能と精度のデータを確認できる。

比較できる項目には遅延、メモリー使用量、モデルサイズがある。候補を選んだ後はコード例と配備手順へ進めるため、モデルの探索と実装の準備が同じ入口につながる。

最適化済みモデルを実行基盤と組み合わせる

公開時には、言語モデル群のAlibaba QwenとGoogle Gemma、画像認識モデル群のUltralytics YOLOが最適化済みモデルに含まれる。モデルを実行するランタイムにはExecuTorch、LiteRT、ONNX-RTを用いる。

Arm向け最適化済みモデルは、モデル配布基盤のHugging Faceを通じても提供される。ポータルでの選定に加え、開発者が利用する配布基盤からモデルを入手する経路も用意した。

画像認識の性能例は端末と数値精度で条件を分ける

Armが公表した性能例では、画像認識モデルUltralytics YOLO26nが、スマートフォンのvivo X300で40%超の性能向上を示した。単一スレッドで行列演算拡張のSME2を使い、FP32からFP16へ変更した比較である。

小型コンピューターのRaspberry Pi 5でも、同じモデルが40%超の性能向上を示した。こちらは単一スレッドでベクトル演算機能のNEONを使い、FP32に対してFP16とINT8を組み合わせた混合量子化を適用した条件となる。

エージェント向け経路を早期提供する

コーディングエージェントには、外部資源への接続に使うMCPを介してポータル資源へアクセスする経路を設けた。Armはエージェント向けAI資源を、一般公開に先立つ早期アクセスとして提供している。

持ち込みモデルへの対応は次の提供段階となる。Armは、独自モデルを含めて性能解析と最適化を行うツールを近く提供する予定としている。