Int4CPULayout¶ class torchao.dtypes.Int4CPULayout[源代码]¶ 用于仿射量化张量的 int4 CPU 布局的布局类,由 tinygemm 内核 _weight_int4pack_mm_for_cpu 使用。仅适用于 PyTorch 2.6 及以上版本