qwen2_1_5b

torchtune.models.qwen2.qwen2_1_5b() → TransformerDecoder

用于创建 Qwen2 模型并使用默认 1.5B 参数值进行初始化的构建器，参数值来自 https://hugging-face.cn/Qwen/Qwen2-1.5B-Instruct

返回:

Qwen2 1.5B 模型的实例

返回类型:

TransformerDecoder

注意

Qwen2 0.5B 和 Qwen2 1.5B 模型构建器默认会启用 tie_word_embeddings，并返回一个 TransformerDecoder 实例。