Technology
CUDA 13.4でWindows on Arm向けGPU開発が可能に
CUDA Toolkit 13.4は、Arm向けCUDAアプリケーション開発をWindowsへ拡張した。共有GPUの分割制御や、NVLink f…
TOPIC
GPU
Semiconductor
端末AIをCPU、ニューラルグラフィックスをGPUで担うArmの新モバイル基盤
端末上のAI処理を担うCPUと、ニューラルグラフィックス向けの専用アクセラレーターを持つGPUが、一つのモバイル向け計算基盤に組み込まれた。処理…
AI
LLMの先読み生成、GPUの処理特性から候補トークン数を決める指針
LLMの投機的デコードで先読みするトークン数について、NVIDIAはGPU上の行列演算とAttentionの処理特性に基づく選定指針を示した。候…
Technology
GPU別カーネルを必要な分だけ選べるROCmの共通配布
ROCmのマルチアーキテクチャ配布は、GPU固有カーネルを共通のホストコードから分離する。利用者は共通インデックスから、必要なGPU向けコードを…
AI
LLM推論で停止ワーカーの代替稼働を283秒から7.3秒に短縮
LLM推論エンジンの障害に備え、GPU上のモデル重みを共有する待機エンジンが事前に初期化される。NVIDIAの2ワーカー構成での測定では、1基の…
Technology
CUDA Python 1.0、GPU資源を共有する共通基盤を整備
CUDA Python 1.0では、GPUのバッファーやストリームをPython向けライブラリで共有するための共通基盤と、公開APIの変更規則が…
AI
金融商品100万件の相関行列を64基のGPUで約2分で因子分解
合成データから作った金融商品100万件の相関行列を、64基のGPUで約2分かけて因子分解したとNVIDIAは報告した。中間行列を省く計算式と行単…
AI
次元削減手法UMAP、複数GPUで1億600万ベクトルを8分で処理
次元削減手法UMAPの学習で負荷の大きい近傍グラフ構築が、複数GPUへ分散された。NVIDIAの測定では、1億600万ベクトルの処理が8基のH1…