AI

Intel、空冷350Wの推論GPUを顧客サンプルとして提供

この記事のポイント

  1. 実現したこと

    大規模モデル向けの推論GPU「Intel GPU D-series」は、顧客へのサンプル提供段階に入っている。

  2. 実現の仕組み

    Xe3PアーキテクチャーにLPDDR5Xメモリーを組み合わせ、メモリー帯域幅を1.5TB/sとする。

  3. 得られた結果

    Intelが示す対応モデル規模は、単一カードで最大3000億パラメーター、GPU8基で1兆パラメーター超となる。

  4. 従来との違い

    Xeon採用ラックに、総電力133.45kWで4万6000を超えるCPUコアを搭載する新しい構成が加わった。

明るいデータセンターのラックで、複数のファンとヒートシンクを備えた汎用PCIe推論アクセラレーターがサーバー筐体に装着され、周囲にサーバー機器が並ぶ編集イラスト。
AI生成画像

350Wの電力枠と空冷設計を採用する推論GPU「Intel GPU D-series」の顧客向けサンプル提供が進んでいる。Intelは、標準PCIe形状と共通ソフトウェア基盤を使い、既存データセンターで大規模モデルの推論を拡張する設計を示した。

350Wの電力枠に演算性能とメモリー帯域を組み合わせる

推論向けのIntel GPU D-seriesは、Xe3Pアーキテクチャーを採用する。Intelが示す仕様は、350Wの電力枠に対してFP8演算性能が1.3ペタフロップスとなる。

メモリーにはLPDDR5Xを使い、帯域幅は1.5TB/sとしている。演算性能とメモリー帯域を組み合わせ、大規模モデルの推論を支える構成だ。顧客向けにはサンプル提供が進んでいる。

単一カードとGPU8基で対応モデル規模を分ける

Intelによると、単一カードでサポートするモデル規模は最大3000億パラメーターとなる。これはカード単体で扱うモデルの規模を示す対応仕様だ。

GPUを8基使うシステムでは、対応範囲が1兆パラメーターを超えるモデルまで広がるとしている。単一カードと複数GPUの構成を使い分けることで、対象とするモデル規模を変える設計になっている。

標準PCIeと空冷で既存設備への導入を狙う

GPUの搭載形状は標準PCIeで、冷却には空冷を採用する。Intelは、専用のラックや冷却設備を必要とせず、既存のデータセンターへ導入できるようにする設計としている。

導入先への対応はソフトウェアにも及ぶ。共通のXeソフトウェア基盤によってIntel製GPU間のアプリケーション移植を支え、既存アプリケーションを再利用しやすくするという。

CPUラックは実行調整とデータ移動を担う

GPUによる推論と組み合わせるCPU側では、Intelが協業先と開発した新しいXeon採用ラック設計を披露した。一部のXeon 6+構成では、ラック総電力133.45kWに対して4万6000を超えるCPUコアを搭載するとしている。

この基盤でXeonが担うのは、ワークロードの実行調整、タスク実行、データ移動の管理だ。GPUなどのアクセラレーターと連携し、演算処理を支える実行管理をCPU側で受け持つ。