快捷方式

直方图观察器

class torch.ao.quantization.observer.HistogramObserver(bins=2048, dtype=torch.quint8, qscheme=torch.per_tensor_affine, reduce_range=False, quant_min=None, quant_max=None, factory_kwargs=None, eps=1.1920928955078125e-07, is_dynamic=False, **kwargs)[source]

该模块记录张量值的运行直方图以及最小/最大值。calculate_qparams 将计算比例和零点。

参数
  • bins (int) – 用于直方图的区间数

  • dtype (dtype) – 实现参考模型规范所需的 quantize 节点的 dtype 参数

  • qscheme – 要使用的量化方案

  • reduce_range – 将量化数据类型的范围减少 1 位

  • eps (Tensor) – float32 的 Epsilon 值,默认为 torch.finfo(torch.float32).eps

比例和零点计算如下

  1. 创建传入输入的直方图。

    直方图是持续计算的,每个观察到的新张量都会导致每个区间的范围发生变化。

  2. 在直方图中的分布中搜索最佳的最小/最大值。

    最小/最大值的搜索确保相对于浮点模型最小化量化误差。

  3. 与中的方式相同计算比例和零点

    MinMaxObserver

文档

访问 PyTorch 的全面开发者文档

查看文档

教程

获取针对初学者和高级开发人员的深入教程

查看教程

资源

查找开发资源并获得问题的解答

查看资源