AI
AI推論チップの電圧低下を60%超抑制、実行順序の事前計画を電力制御に活用
AI推論用アクセラレーターのGroq 3 LPXは、演算とデータ移動の時刻を事前に決め、その予定を電力制御にも使う。NVIDIAのシステム内試験…
TOPIC
AI推論用アクセラレーターのGroq 3 LPXは、演算とデータ移動の時刻を事前に決め、その予定を電力制御にも使う。NVIDIAのシステム内試験…
GPU間通信網のNVLink 6は、信号誤りの訂正と再送から、制御系の冗長化、推論プロセスの切り替えまでを組み合わせて障害に対処する。NVIDI…
CRM推論モデルKoaは、顧客データを学習にも推論にも使わず、Salesforceのシステム内で稼働する。合成CRMデータによる追加学習と自社管…
GPUとラックの消費電力に応じて電力余力を再配分することで、固定電力枠内のAI推論処理量が増加した。Lambdaの検証では、19ノードを16ノー…
AIモデルの推論で、利用者ごとの応答速度を保ちながらシステム全体の出力を増やす構成が示された。NVIDIAの測定では、Nemotron 3 Ul…
生体分子の構造予測で、モデル内部のGPU演算と多数の入力を流す処理経路を高速化する推論基盤が登場した。NVIDIAの比較では、タンパク質二量体1…
画像を扱うAI推論で、視覚エンコードを言語モデルの処理から分離する構成が実装された。NVIDIAの測定では、画像の多い入力など適した条件で、初回…
Arm向けに最適化されたAIモデルを、性能比較から実装用コード、配備手順までつなげて利用できるようになった。開発支援サービスArm AI Por…