快捷方式

PerRow

class torch.ao.quantization.observer.PerRow[source][source]

表示量化中的按行粒度。

这是按轴量化的一个特例,独属于 Float8 矩阵乘法,其中输入以 (1, …, input.shape[-1]) 的 block_size 进行量化,权重以 (1, weight.shape[1]) 的 block_size 进行量化。

文档

访问全面的 PyTorch 开发者文档

查看文档

教程

获取面向初学者和高级开发者的深入教程

查看教程

资源

查找开发资源并获取问题解答

查看资源