UintxLayout

class torchao.dtypes.UintxLayout(dtype: dtype, pack_dim: int = - 1)

Uintx 张量的布局类，Uintx 张量的元素被打包成比标准 8 位字节更小的位宽。此布局用于定义数据如何在 UintxTensor 对象中存储和处理。

变量:

• dtype (torch.dtype) – 张量元素的数据类型，决定了用于打包的位宽。

• pack_dim (int) – 数据沿其打包的维度。默认值为 -1，表示最后一个维度。