快捷方式

disable_adapter

torchtune.modules.peft.disable_adapter(model: Module) Generator[None, None, None][source]

临时禁用模型中的 adapter。例如,在 DPO 中,这可用于将 LoRA adapters 视为策略模型,并禁用它以便将基础模型视为参考模型。

这个上下文管理器遍历提供的神经网络模型中的所有模块,如果一个模块具有可调用的 adapter_params 属性和 disabled 属性,它会将 disabled 设置为 True。然后,控制权返回给调用者。退出上下文管理器时,它会将所有临时禁用的模块的 disabled 属性重新设置为 False。

参数:

model (nn.Module) – 要临时禁用其 adapters 的模型。

生成值:

None – 此函数将控制权返回给调用者,此时 adapters 已被禁用。

示例

>>> with disable_adapter(model):
...     # Perform operations with adapters disabled
...     pass

文档

访问 PyTorch 的综合开发者文档

查看文档

教程

获取面向初学者和高级开发者的深入教程

查看教程

资源

查找开发资源并获得问题解答

查看资源