快捷方式

MovingAverageMinMaxObserver

class torch.ao.quantization.observer.MovingAverageMinMaxObserver(averaging_constant=0.01, dtype=torch.quint8, qscheme=torch.per_tensor_affine, reduce_range=False, quant_min=None, quant_max=None, eps=1.1920928955078125e-07, is_dynamic=False, **kwargs)[源代码]

用于根据最小值和最大值的移动平均值计算量化参数的观察器模块。

此观察器根据传入张量的最小值和最大值的移动平均值计算量化参数。该模块记录传入张量的平均最小值和最大值,并使用此统计信息计算量化参数。

参数
  • averaging_constant – 最小/最大值的平均常数。

  • dtype – 实现参考模型规范所需的 quantize 节点的 dtype 参数。

  • qscheme – 要使用的量化方案

  • reduce_range – 将量化数据类型的范围减少 1 位

  • quant_min – 最小量化值。如果未指定,则遵循 8 位设置。

  • quant_max – 最大量化值。如果未指定,则遵循 8 位设置。

  • eps (张量) – float32 的 Epsilon 值,默认为 torch.finfo(torch.float32).eps

移动平均最小/最大值计算如下

xmin={min(X)如果 xmin=None(1c)xmin+cmin(X)否则xmax={max(X)如果 xmax=None(1c)xmax+cmax(X)否则\begin{array}{ll} x_\text{min} = \begin{cases} \min(X) & \text{if~}x_\text{min} = \text{None} \\ (1 - c) x_\text{min} + c \min(X) & \text{otherwise} \end{cases}\\ x_\text{max} = \begin{cases} \max(X) & \text{if~}x_\text{max} = \text{None} \\ (1 - c) x_\text{max} + c \max(X) & \text{otherwise} \end{cases}\\ \end{array}

其中 xmin/maxx_\text{min/max} 是运行平均最小/最大值,XX 是输入张量,而 ccaveraging_constant

然后,如 MinMaxObserver 中所述计算比例和零点。

注意

仅适用于 torch.per_tensor_affine 量化方案。

注意

如果运行最小值等于运行最大值,则比例和零点分别设置为 1.0 和 0。

文档

访问 PyTorch 的全面开发者文档

查看文档

教程

获取适合初学者和高级开发人员的深入教程

查看教程

资源

查找开发资源并获得问题的解答

查看资源