qwen2_5_1_5b_base

torchtune.models.qwen2_5.qwen2_5_1_5b_base() → TransformerDecoder

用于创建 Qwen2.5 基础模型的构建器，使用来自 https://hugging-face.cn/Qwen/Qwen2.5-1.5B 的默认 1.5B 参数值初始化

返回:

Qwen2.5 1.5B 模型实例

返回类型:

TransformerDecoder

注意

基础版和指令版在除 0.5B 和 3B 之外的所有 Qwen2.5 模型大小上架构略有不同。请确保为权重选择正确的模型构建器。

注意

Qwen2.5 0.5B-3B 模型构建器默认会启用 tie_word_embeddings（参见 qwen2()）。