AI
AIによる推論サーバー修正、実サーバー試験を加えると合格率が69.4%から45.9%に
AIが推論サーバーに加えた修正は、ほかの試験を通っても、モデルを動かす実サーバーでは失敗し得る。評価基盤SWE-Serveで同じ627件の修正を…
TOPIC
AIが推論サーバーに加えた修正は、ほかの試験を通っても、モデルを動かす実サーバーでは失敗し得る。評価基盤SWE-Serveで同じ627件の修正を…
B200の機密計算下で、LLM推論のデータ転送とカーネル計測を保護された実行経路に合わせた。NVIDIAが8基のB200で測定した出力トークン処…
新型デスクトップMac Studioは、最大512GBのメモリーで端末内のLLM実行に対応し、Thunderbolt 5経由で複数台を接続した分…
動画生成AIの重いTransformer処理を、1つの推論窓口から複数GPUへ分散できるようになった。NVIDIAの測定では、動画1件の生成時間…
ロボットのAI推論を機体内のGPUから機外へ移すと、物体受け渡しの成功率が向上した。Microsoftは、移動と物体操作を伴う作業で推論の実行場…
LLM推論の負荷試験ツールAIPerfは、要求の送信と結果の処理を複数プロセスへ分ける構成になった。NVIDIAは、測定クライアント側が高い同時…
量子化、会話履歴の再利用、複数トークンの一括検証を組み合わせた推論ソフトウェアが、エッジ端末1台でエージェントの評価課題1007ターンを24分3…
生体分子の構造予測やタンパク質設計に使う30超のAIモデルで、推論処理が平均約4倍に高速化した。Claudeは高負荷なGPU演算とモデル固有の無…