AI
複数PCへAI推論を振り分けるPAIRがllama.cppに対応
複数PCへローカルAIの推論要求を振り分けるNVIDIA PAIRが正式版へ移行し、推論エンジンllama.cppに対応した。要求ごとに実行先を…
TOPIC
複数PCへローカルAIの推論要求を振り分けるNVIDIA PAIRが正式版へ移行し、推論エンジンllama.cppに対応した。要求ごとに実行先を…
AIエージェントの実行を担うCPUと、モデル推論を担う基盤を分けるか、同じラックへまとめるかを選ぶ。AMDのラック参照設計Helionは、CPU…
350Wの電力枠と空冷設計を採用する推論GPU「Intel GPU D-series」の顧客向けサンプル提供が進んでいる。Intelは、標準PC…
AIモデルのGemini 4 Argonは、危険な要求を入力だけで判断せず、内部信号と生成中の応答も監視する。エージェントの行動と内部の推論過程…
AIモデルClaudeの推論過程を不正に取り出す経路に、会話履歴の編集制限と旧モデルからの読み取り制限が加わった。Anthropicは、新しい蒸…
90億パラメーターのAIモデルが、9種類中8種類のハードウェアで推論を立ち上げた。Anthropicは安価なAndroid TV端末15台での分…
小型AI計算機DGX Sparkに、統合メモリーを64GBとする構成が加わった。2台を直接接続すれば合計128GBを利用でき、ネットワーク設定は…
AI計算基盤Vera Rubin NVL72がクラウド上の本番処理に入った。NVIDIAが紹介したCognitionの初期試験では、ソフトウェア…