Technology
CUDA Python 1.0、GPU資源を共有する共通基盤を整備
CUDA Python 1.0では、GPUのバッファーやストリームをPython向けライブラリで共有するための共通基盤と、公開APIの変更規則が…
All Articles
AI
LLM推論で停止ワーカーの代替稼働を283秒から7.3秒に短縮
LLM推論エンジンの障害に備え、GPU上のモデル重みを共有する待機エンジンが事前に初期化される。NVIDIAの2ワーカー構成での測定では、1基の…
Technology
100万トークンのAttentionカーネルで全領域参照比最大7.6倍のプリフィル高速化
履歴を固定サイズへ圧縮し、必要な領域だけをブロック単位で参照する長文AIモデルが登場した。100万トークン条件の公開ベンチマークでは、Atten…
AI
AI推論基盤Vera Rubin、電力当たり処理量はGB300の最大30倍
AIエージェントの作業記録を再生する評価で、推論基盤Vera Rubin NVL72がGB300 NVL72の最大30倍のメガワット当たり処理量…
AI
NVIDIAのAI学習向けネットワーク、混雑下の模擬実験でも学習1ステップ668ミリ秒
AI学習向けネットワーク「Spectrum-X Ethernet」は、混雑に応じたパケット経路の選択と送信速度の調整を組み合わせる。NVIDIA…
Technology
実作業動画を5段階でロボット学習データへ変換、毎秒30分相当を処理
家庭や職場の実作業を撮影した動画が、品質検査、重複除去、再均衡化、説明付与を経てロボット学習用データへ変換されている。基盤は毎秒30分相当のアッ…
AI
金融商品100万件の相関行列を64基のGPUで約2分で因子分解
合成データから作った金融商品100万件の相関行列を、64基のGPUで約2分かけて因子分解したとNVIDIAは報告した。中間行列を省く計算式と行単…
AI
スキル導入でAIエージェントの正答性スコアが平均41点上昇
AIエージェント用スキルの効果を、導入有無だけを変えた実タスクの対照実行で測定する仕組みが公開された。NVIDIAは300件超の検証済みスキルを…