AI
機密データをPC内で処理するAIエージェント、RTX搭載Windowsへ拡大
複数段階の作業を進めるローカルAIエージェントが、RTX搭載Windows PCに対応した。機密データは端末内で処理し、高度な推論をクラウドへ移…
TOPIC
複数段階の作業を進めるローカルAIエージェントが、RTX搭載Windows PCに対応した。機密データは端末内で処理し、高度な推論をクラウドへ移…
生体分子の構造予測で、モデル内部のGPU演算と多数の入力を流す処理経路を高速化する推論基盤が登場した。NVIDIAの比較では、タンパク質二量体1…
LLMの投機的デコードで先読みするトークン数について、NVIDIAはGPU上の行列演算とAttentionの処理特性に基づく選定指針を示した。候…
CUDA Python 1.0では、GPUのバッファーやストリームをPython向けライブラリで共有するための共通基盤と、公開APIの変更規則が…
LLM推論エンジンの障害に備え、GPU上のモデル重みを共有する待機エンジンが事前に初期化される。NVIDIAの2ワーカー構成での測定では、1基の…
合成データから作った金融商品100万件の相関行列を、64基のGPUで約2分かけて因子分解したとNVIDIAは報告した。中間行列を省く計算式と行単…
次元削減手法UMAPの学習で負荷の大きい近傍グラフ構築が、複数GPUへ分散された。NVIDIAの測定では、1億600万ベクトルの処理が8基のH1…
既存施設の交流設備を残したまま、ラック列内で800 VDCへ変換して計算ラックへ送る電力構成が設計された。NVIDIAは、建物の電気系統を変更せ…