Technology
CUDA Python 1.0、GPU資源を共有する共通基盤を整備
CUDA Python 1.0では、GPUのバッファーやストリームをPython向けライブラリで共有するための共通基盤と、公開APIの変更規則が…
Spotlight
AI
LLM推論で停止ワーカーの代替稼働を283秒から7.3秒に短縮
LLM推論エンジンの障害に備え、GPU上のモデル重みを共有する待機エンジンが事前に初期化される。NVIDIAの2ワーカー構成での測定では、1基の…
Technology
100万トークンのAttentionカーネルで全領域参照比最大7.6倍のプリフィル高速化
履歴を固定サイズへ圧縮し、必要な領域だけをブロック単位で参照する長文AIモデルが登場した。100万トークン条件の公開ベンチマークでは、Atten…
AI
AI推論基盤Vera Rubin、電力当たり処理量はGB300の最大30倍
AIエージェントの作業記録を再生する評価で、推論基盤Vera Rubin NVL72がGB300 NVL72の最大30倍のメガワット当たり処理量…
AI
NVIDIAのAI学習向けネットワーク、混雑下の模擬実験でも学習1ステップ668ミリ秒
AI学習向けネットワーク「Spectrum-X Ethernet」は、混雑に応じたパケット経路の選択と送信速度の調整を組み合わせる。NVIDIA…
Technology
実作業動画を5段階でロボット学習データへ変換、毎秒30分相当を処理
家庭や職場の実作業を撮影した動画が、品質検査、重複除去、再均衡化、説明付与を経てロボット学習用データへ変換されている。基盤は毎秒30分相当のアッ…
AI
金融商品100万件の相関行列を64基のGPUで約2分で因子分解
合成データから作った金融商品100万件の相関行列を、64基のGPUで約2分かけて因子分解したとNVIDIAは報告した。中間行列を省く計算式と行単…
AI
スキル導入でAIエージェントの正答性スコアが平均41点上昇
AIエージェント用スキルの効果を、導入有無だけを変えた実タスクの対照実行で測定する仕組みが公開された。NVIDIAは300件超の検証済みスキルを…
AI
画像と言語の連合学習、各参加先・各回の通信量を28.6GBから0.094GBに
画像と言語を扱うAIの連合学習で、モデル全体ではなく軽量なアダプターだけを共有するFedUMMが、8クライアントの比較で各クライアント・各回の通…
AI
AI開発エージェント製の内視鏡画像分割アプリ、描画処理量が50.5％向上
内視鏡映像から器具を分割するアプリを、AI開発エージェントが既存モデルを再利用して構築した。NVIDIAは、段階的な測定と最適化により、描画処理…
AI
AIによる材料シミュレーション生成、45件の評価でAPI参照エラーなし
AIが生成する材料シミュレーション用コードのAPI参照を、実行環境と専用ガイドの組み合わせで正確にできるか。NVIDIAの45件の評価では参照エ…
AI
ロボット上で動く制御AI、2.13秒分の指令を約1.53秒で生成
ロボット制御用に追加学習した40億パラメータのAIモデルが、Jetson AGX Thor上で約2.13秒分の動作指令を約1.53秒で生成した。…