AI

AMDのAIエージェント向けラック設計はCPU単独とGPU統合に対応

この記事のポイント

  1. 実現したこと

    AIエージェント向けに、CPU単独とCPU・GPU一体型を選べるラック参照設計が公開された。

  2. 実現の仕組み

    組み込まれたトークンルーターが、エージェントのモデル呼び出しを最先端モデルやオープンソースモデルへ振り分ける。

  3. 得られた結果

    CPU単独ラックの設計上の搭載上限は、第6世代EPYCによる32,768個のCPUコアとされた。

  4. 従来との違い

    エージェント実行用CPUを別の推論基盤へ接続する構成に加え、CPU・GPU・汎用計算を同じラックへまとめる構成が用意された。

データセンターの通路に、CPUラックから別の推論ラックへケーブルをつなぐ構成と、CPU・アクセラレーター・汎用計算の各サーバーを一つに収めたラック構成が並ぶ編集イラスト。
AI生成画像

AIエージェントの実行を担うCPUと、モデル推論を担う基盤を分けるか、同じラックへまとめるかを選ぶ。AMDのラック参照設計Helionは、CPU単独とCPU・GPU一体型の構成を用意した。実機のラック構成はパートナーと開発中で、2026年11月の提供を予定する。

モデル呼び出しを振り分けるラック参照設計

AMDが公開したAIエージェント向けラック参照設計AMD Helionは、Open Compute Project(OCP)の仕様を基礎とする。モデル呼び出しの振り分けを担うトークンルーターを組み込み、エージェントからの呼び出しを最先端モデルやオープンソースモデルへ送る構成だ。

CPU単独ラックは別のモデル推論基盤へ接続

モデル推論を別の基盤に任せる場合、CPU単独ラックがエージェント実行専用の計算容量を担う。AMDは大規模クラウド事業者向けにこの構成を想定しており、第6世代のサーバー用プロセッサーAMD EPYCによって、1ラックに最大32,768個のCPUコアを搭載できる設計としている。この上限は設計上の搭載容量である。

企業向けにはCPUとGPUを同じラックへ

企業向けの一体型構成では、EPYCのCPUノード、計算用GPUであるAMD Instinct MI350Pのノード、汎用計算を一つの基盤へ組み合わせる。エージェント実行、モデル推論、それらを支える計算を同じラックに収める設計だ。AMDは、パートナーが顧客の処理内容に応じてCPUとGPUの構成を調整し、性能・電力・コストの要件に対応するものと位置付けている。

空冷と液冷に対応し、11月の提供を予定

ラック参照設計は、冷却方式にも空冷と液冷の選択肢を持つ。AMDは仕様をOCPへ提供する計画で、コミュニティーによる開発と採用につなげる方針だ。ラック構成はパートナーと開発中で、提供は2026年11月を予定している。