欢迎来到 torchao 文档¶ torchao 是一个用于自定义数据类型和优化的库。使用原生的 PyTorch 对权重、梯度、优化器和激活进行量化和稀疏化,以用于推理和训练。请查阅 torchao 的 README 文件,以获得对该库的整体介绍以及最近的亮点和更新。 开始使用 快速入门指南 开发者注意事项 量化概述 稀疏性概述 贡献者指南 API 参考 torchao.dtypes torchao.quantization torchao.sparsity 教程 序列化 编写自己的量化张量 编写自己的量化张量 (进阶)