快捷方式

AdapterModule

class torchtune.modules.peft.AdapterModule(*args, **kwargs)[source]

包含适配器权重的 nn.Module 的接口。请注意,适配器模块不必显式实现此协议,但必须定义 adapter_params(self) 方法。

adapter_params() List[str][source]

返回一个字符串列表,对应于模型中来自适配器的 nn.Parameter 的名称。例如,如果一个 nn.Module 有适配器 self.proj = nn.Linear(in_dim, out_dim),则 adapter_params 应返回 ['proj.weight', 'proj.bias']

请参阅 LoRALinear 的 adapter_params() 以了解示例。

文档

访问 PyTorch 的全面开发者文档

查看文档

教程

获取初学者和高级开发人员的深入教程

查看教程

资源

查找开发资源并获得问题的解答

查看资源