基准测试的原则评测一个推理系统的性能，本质上是在做一个科学实验。科学实验的第一准则，是保证结论的可靠性——但一次负载压测所面对的系统状态，远比试管里的化学反应复杂。想想看：一个在线服务背后，有 CPU 调度、GPU 资源抢占、显存带宽争用、网络抖动、甚至宿主机上其他租户的干扰。任何一次单独的测量，都只是系统在那一瞬间行为的一次采样，而非系统性能的定义。因此，基准测试的第一课不是学会用工具，而是学会设计一个可信的实验。控制变量：让每一次测量都"可比"实验设计的核心是控制变量。目标很朴素：当你修改一个参数（比如 batch size 从 32 调到 64）时，性能指标的差异只能由这个参数引起，而非其他因素。为了达到这个目标，每一项可能影响结果的变量都必须被固定或明确记录。对于 LLM 推理基准测试，至少需要覆盖以下五类：变量类别具体内容为何重要硬件状态GPU 型号、显存容量、CPU 核心数、总内存、Power Cap（功耗