直方图观察器¶
- class torch.ao.quantization.observer.HistogramObserver(bins=2048, dtype=torch.quint8, qscheme=torch.per_tensor_affine, reduce_range=False, quant_min=None, quant_max=None, factory_kwargs=None, eps=1.1920928955078125e-07, is_dynamic=False, **kwargs)[source]¶
该模块记录张量值的运行直方图以及最小/最大值。
calculate_qparams
将计算比例和零点。- 参数
比例和零点计算如下
- 创建传入输入的直方图。
直方图是持续计算的,每个观察到的新张量都会导致每个区间的范围发生变化。
- 在直方图中的分布中搜索最佳的最小/最大值。
最小/最大值的搜索确保相对于浮点模型最小化量化误差。
- 与中的方式相同计算比例和零点
MinMaxObserver