qwen2_5_72b_base¶
- torchtune.models.qwen2_5.qwen2_5_72b_base() TransformerDecoder [source]¶
用于创建 Qwen2.5 基础模型的构建器,该模型使用来自 https://hugging-face.cn/Qwen/Qwen2.5-72B 的默认 72B 参数值进行初始化
- 返回:
Qwen2.5 72B 模型的实例化
- 返回类型:
注意
对于除 0.5B 和 3B 之外的所有 Qwen2.5 模型尺寸,基础版本和指令版本的架构略有不同。请确保为权重选择正确的模型构建器。