AI
生体分子AIモデル30超を平均約4倍に高速化、Claudeが4週間弱で推論を最適化
生体分子の構造予測やタンパク質設計に使う30超のAIモデルで、推論処理が平均約4倍に高速化した。Claudeは高負荷なGPU演算とモデル固有の無…
TOPIC
GPUカーネル
AI
AIエージェントでGPU演算子24種をRustに移植、Python版の平均性能99.5％
GPUカーネルをPython系の実装からRustへ移すAIエージェント用スキルにより、TileGymの公開演算子24種が移植された。NVIDIA…
Technology
GPU別カーネルを必要な分だけ選べるROCmの共通配布
ROCmのマルチアーキテクチャ配布は、GPU固有カーネルを共通のホストコードから分離する。利用者は共通インデックスから、必要なGPU向けコードを…
Technology
中間データのメモリ往復を省く線形代数・FFTのカーネル内融合
線形代数とFFTをアプリケーション固有の処理と同じCUDAカーネル内で実行し、中間データを共有メモリやレジスタから次の演算へ渡せる。グローバルメ…
Technology
100万トークンのAttentionカーネルで全領域参照比最大7.6倍のプリフィル高速化
履歴を固定サイズへ圧縮し、必要な領域だけをブロック単位で参照する長文AIモデルが登場した。100万トークン条件の公開ベンチマークでは、Atten…
AI
AIモデル「Qwen」27B版の推論性能が2倍に、llama.cppを高速化
ローカルAIエージェント向けの推論基盤llama.cppが、先読み検証とGPU上の実行順序の改善で高速化した。NVIDIAによると、Qwenの2…