安装指南

先决条件

torchtune 需要 PyTorch，因此请使用 “本地开始” 页面为您的主机和环境安装 PyTorch。您还应安装 torchvision（用于多模态 LLM）和 torchao（用于量化 API）。您可以使用以下命令安装稳定版本或 nightly 版本

# Install stable version of PyTorch libraries using pip
pip install torch torchvision torchao

# Or nightly install for latest features
pip install --pre torch torchvision torchao --index-url https://download.pytorch.org/whl/nightly/cu121 # full options are cpu/cu118/cu121/cu124

通过 PyPI 安装

PyPI 上托管了 torchtune 的最新稳定版本，可以使用以下命令下载

pip install torchtune

要确认软件包是否已正确安装，可以运行以下命令

tune

您应该看到以下输出

usage: tune [-h] {download,ls,cp,run,validate} ...

Welcome to the torchtune CLI!

options:
-h, --help            show this help message and exit

...

通过 git clone 安装

如果您想获得 torchtune 的最新功能，或者想 成为贡献者，也可以使用以下命令在本地安装软件包。

git clone https://github.com/pytorch/torchtune.git
cd torchtune
pip install -e .

# or for a developer installation
pip install -e .["dev"]

安装 nightly 版本

torchtune 每天晚上都会使用 main 分支的最新提交进行构建。如果您想要软件包的最新更新，无需 通过 git clone 安装，可以使用以下命令进行安装

pip install --pre torchtune --extra-index-url https://download.pytorch.org/whl/nightly/cpu --no-cache-dir

注意

--no-cache-dir 将指示 pip 不要查找 torchtune 的缓存版本，从而覆盖您现有的 torchtune 安装。

如果您已经安装了 PyTorch，torchtune 将默认使用该版本。但是，如果您想使用 PyTorch 的 nightly 版本，可以在上述命令中添加 --force-reinstall 选项。如果您选择这种安装方法，您可能需要更改索引 URL 中的“cpu”后缀以匹配您的 CUDA 版本。例如，如果您运行的是 CUDA 12，您的索引 URL 将为“https://download.pytorch.org/whl/nightly/cu121”。