torch.fake_quantize_per_tensor_affine¶
- torch.fake_quantize_per_tensor_affine(input, scale, zero_point, quant_min, quant_max) Tensor ¶
返回一个新张量,其中包含使用
scale
、zero_point
、quant_min
和quant_max
对input
中的数据进行伪量化的结果。) + zero_point ) ) − zero_point ) × scale \text{output} = ( min( \text{quant\_max}, max( \text{quant\_min}, \text{std::nearby\_int}(\text{input} / \text{scale}) + \text{zero\_point} ) ) - \text{zero\_point} ) \times \text{scale} - 参数
input (Tensor) – 输入值,
torch.float32
张量scale (双精度标量或
float32
张量) – 量化比例zero_point (int64 标量或
int32
张量) – 量化零点quant_min (int64) – 量化域的下限
quant_max (int64) – 量化域的上限
- 返回值
一个新伪量化的
torch.float32
张量- 返回类型
示例
>>> x = torch.randn(4) >>> x tensor([ 0.0552, 0.9730, 0.3973, -1.0780]) >>> torch.fake_quantize_per_tensor_affine(x, 0.1, 0, 0, 255) tensor([0.1000, 1.0000, 0.4000, 0.0000]) >>> torch.fake_quantize_per_tensor_affine(x, torch.tensor(0.1), torch.tensor(0), 0, 255) tensor([0.1000, 1.0000, 0.4000, 0.0000])