AIPerf

LLM推論の負荷試験ツールAIPerf、測定処理を複数プロセスに分離

LLM推論の負荷試験ツールAIPerfは、要求の送信と結果の処理を複数プロセスへ分ける構成になった。NVIDIAは、測定クライアント側が高い同時…