AI
NVIDIAのAIモデル、単一H200でQwen3-30B-A3Bの3.3倍の推論処理量
AIモデル「Nemotron 3 Nano」は、MambaとTransformerを組み合わせた構成に疎なMoEを導入し、処理時に稼働する部分を…
TOPIC
AI推論
AI
Falcon-40Bの4ビット量子化モデルを公開
Falcon-40Bをgptqで4ビット量子化したモデル「falcon-40b-gptq」が公開された。Hugging Faceは元モデルとの関…