Technology
Jetsonの推論モデルで最大6.28倍のデコード高速化
Jetson上の推論モデルにNVFP4量子化と投機的デコーディングを重ね、処理負荷と検証回数を同時に減らす構成が示された。NVIDIAの測定では…
TOPIC
NVFP4
AI
AIモデルの容量を量子化で66GBから22GBに、蒸留で精度低下を回復
言語モデルNemotron 3.5 Lightningの重みを量子化し、元のモデルから蒸留することで、精度低下を回復しながらチェックポイント容量…
AI
量子計算機の校正図を読むAI、例示付き評価で旧版44.5点から83.0点へ
量子計算機の校正図を解析する画像言語モデル「Ising Calibration 1.5」は、関連実験の例を与える評価で旧版の44.5点に対し83…