AI

AIシステム「DGX Rubin NVL8」、ホストCPUにXeon 6を採用

この記事のポイント

  1. 実現したこと

    DGX Rubin NVL8は、Xeon 6をホストCPUとして組み込む。

  2. 実現の仕組み

    ホストCPUはタスクの調整とデータ移動を担い、Priority Core TurboでGPUへのデータ供給を支える。

  3. 得られた結果

    Intelが示すXeon 6のシステムメモリー容量は最大8TBで、大規模モデルやKVキャッシュを支える仕様となる。

  4. 従来との違い

    Xeon 6776Pを使うDGX B300に続き、DGX Rubin NVL8にもXeonがホストCPUとして採用された。

システムメモリーからXeon 6ホストCPUを経てGPU計算群へデータが流れる構成の編集イラスト
AI生成画像

NVIDIAのAIシステム「DGX Rubin NVL8」は、Intel Xeon 6をホストCPUとして採用する。CPUがタスクの調整やメモリー管理を担い、GPUへ処理とデータを渡す構成だ。

ホストCPUがGPU側の処理を調整する

NVIDIAのAIシステム「DGX Rubin NVL8」は、Intel Xeon 6をホストCPUとして採用する。ホストCPUはGPUによる計算そのものに加え、システム内のタスクを調整する役割を持つ。

この役割には、メモリー管理や処理の分配が含まれる。GPUへ渡す仕事をCPU側で整理することが、システム全体の実行を支える。

Priority Core Turboでデータ供給を支える

Intelは、XeonのPriority Core Turboを使い、GPUへデータを送り続ける構成を示している。CPU側の処理がデータ供給を担うため、この機能はGPUへの受け渡しに関わる。

処理の調整、スケジューリング、データ移動には、Xeonのシングルスレッド性能を生かすという。タスクを割り当てた後、その実行に必要なデータを動かすまでがホストCPUの仕事となる。

大容量メモリーとMRDIMMがデータを供給する

Intelが示すXeon 6のシステムメモリー容量は最大8TBで、大規模モデルやKVキャッシュを支える仕様となる。KVキャッシュは、推論時に過去の計算結果を保持するデータだ。

Intelによると、MRDIMM技術を使う場合のメモリー帯域幅は前世代比で最大3倍になる。これはXeon 6の機能についてのメーカー公表値であり、DGX Rubin NVL8全体の性能値ではない。

PCIe接続と機密計算がCPUとGPUを結ぶ

Xeon 6のPCIe 5.0レーンは、AIアクセラレーターなどの機器との接続を支える。メモリーから取り出したデータを使うGPUとの連携には、こうした入出力経路も関わる。

セキュリティ面では、Intel Trust Domain Extensions(TDX)がハードウェアによる隔離と認証を提供する。Intelは、Encrypted Bounce BufferもCPUとGPUの間のデータ経路における機密計算の機能として挙げている。

DGX B300から続くXeonの採用

Blackwell世代のDGX B300にはIntel Xeon 6776Pが使われている。DGX Rubin NVL8でもXeonをホストCPUとして採用し、GPUを支えるCPUの系統が引き継がれる。