swap_linear_with_smooth_fq_linear¶
- torchao.quantization.swap_linear_with_smooth_fq_linear(model, skip_fqn_list=None, cur_fqn='', alpha=0.5) None[源代码]¶
用其 SmoothFakeDynamicallyQuantizedLinear 等效项替换模型中的线性层。
- 参数:
model (torch.nn.Module) – 包含要替换的线性层的模型。
skip_fqn_list (str 列表, 可选) – 在替换期间跳过的完全限定名称列表。默认为 None。
cur_fqn (str, 可选) – 当前正在处理的模块的完全限定名称。默认为 ""。
alpha (float, 可选) – SmoothQuant 的缩放因子。默认为 0.5。
- 返回:
None
