快捷方式

Int4CPULayout

class torchao.dtypes.Int4CPULayout[源代码]

用于仿射量化张量的 int4 CPU 布局的布局类,由 tinygemm 内核 _weight_int4pack_mm_for_cpu 使用。仅适用于 PyTorch 2.6 及以上版本

文档

查阅 PyTorch 的全面开发者文档

查看文档

教程

获取针对初学者和高级开发者的深入教程

查看教程

资源

查找开发资源并解答您的疑问

查看资源