关于量化对模型表现的影响

关于量化对模型表现的影响

之前一直知道量化会对模型有影响,但是没法具体感知到差别,最近使用qwen3-vl:30b-a3b模型时,就实实在在的感知到了

 

上图:

image

 (原图未打码)

image

本人不是小黑子,对图中人不熟悉,大家不要冲我。