350Wの電力枠と空冷設計を採用する推論GPU「Intel GPU D-series」の顧客向けサンプル提供が進んでいる。Intelは、標準PCIe形状と共通ソフトウェア基盤を使い、既存データセンターで大規模モデルの推論を拡張する設計を示した。
350Wの電力枠に演算性能とメモリー帯域を組み合わせる
推論向けのIntel GPU D-seriesは、Xe3Pアーキテクチャーを採用する。Intelが示す仕様は、350Wの電力枠に対してFP8演算性能が1.3ペタフロップスとなる。
メモリーにはLPDDR5Xを使い、帯域幅は1.5TB/sとしている。演算性能とメモリー帯域を組み合わせ、大規模モデルの推論を支える構成だ。顧客向けにはサンプル提供が進んでいる。
単一カードとGPU8基で対応モデル規模を分ける
Intelによると、単一カードでサポートするモデル規模は最大3000億パラメーターとなる。これはカード単体で扱うモデルの規模を示す対応仕様だ。
GPUを8基使うシステムでは、対応範囲が1兆パラメーターを超えるモデルまで広がるとしている。単一カードと複数GPUの構成を使い分けることで、対象とするモデル規模を変える設計になっている。
標準PCIeと空冷で既存設備への導入を狙う
GPUの搭載形状は標準PCIeで、冷却には空冷を採用する。Intelは、専用のラックや冷却設備を必要とせず、既存のデータセンターへ導入できるようにする設計としている。
導入先への対応はソフトウェアにも及ぶ。共通のXeソフトウェア基盤によってIntel製GPU間のアプリケーション移植を支え、既存アプリケーションを再利用しやすくするという。
CPUラックは実行調整とデータ移動を担う
GPUによる推論と組み合わせるCPU側では、Intelが協業先と開発した新しいXeon採用ラック設計を披露した。一部のXeon 6+構成では、ラック総電力133.45kWに対して4万6000を超えるCPUコアを搭載するとしている。
この基盤でXeonが担うのは、ワークロードの実行調整、タスク実行、データ移動の管理だ。GPUなどのアクセラレーターと連携し、演算処理を支える実行管理をCPU側で受け持つ。