快捷方式

qwen2_5_1_5b_instruct

torchtune.models.qwen2_5.qwen2_5_1_5b_instruct() TransformerDecoder[源]

用于创建 Qwen2.5 instruct 模型,并使用来自 https://hugging-face.cn/Qwen/Qwen2.5-1.5B-Instruct 的默认 1.5B 参数值进行初始化

返回:

Qwen2.5 1.5B instruct 模型的实例

返回类型:

TransformerDecoder

注意

除 0.5B 和 3B 外,所有 Qwen2.5 模型尺寸的基础版本和 instruct 版本架构略有不同。请确保为权重选择正确的模型构建器。

注意

Qwen2.5 0.5B-3B 模型构建器默认启用 tie_word_embeddings(参见 qwen2()

文档

访问 PyTorch 的全面开发者文档

查看文档

教程

获取面向初学者和高级开发者的深度教程

查看教程

资源

查找开发资源并解答您的疑问

查看资源