欢迎使用 torchtune 文档

torchtune 是一个用于 LLM 微调的原生 PyTorch 库。

入门

本节中的主题将帮助您开始使用 torchtune。

什么是 torchtune？

简要介绍 torchtune 以及如何在您的项目中使用该库。

overview.html

安装说明

有关如何安装 torchtune 的分步教程。

install.html

微调您的第一个模型

按照简单的教程使用 torchtune 微调 Llama2。

tutorials/first_finetune_tutorial.html

教程

准备实验？查看一些交互式 torchtune 教程。

---

Llama3 在 torchtune 中

主题：微调,llama3

使用 LoRA 在 torchtune 中进行微调

主题：微调,llama2,lora

使用 LoRA 对 Llama2 进行参数高效微调

了解 torchtune 中的 QLoRA

主题：微调,llama2,qlora

使用 QLoRA 对基本模型权重进行量化并最大限度地节省内存

使用 torchtune 的端到端工作流程

主题：微调,量化,推理,评估,llama2

训练、评估、量化，然后使用您的 LLM 生成。