torch.nn.utils.clip_grad_value_

torch.nn.utils.clip_grad_value_(parameters, clip_value, foreach=None)

将参数的可迭代对象的梯度裁剪到指定值。

梯度会原地修改。

参数

• parameters (Iterable[Tensor] 或 Tensor) – 将被裁剪梯度的 Tensor 可迭代对象或单个 Tensor

• clip_value (float) – 梯度的最大允许值。梯度将被裁剪到范围 $\left[\text{-clip\_value}, \text{clip\_value}\right]$ 内

• foreach (bool) – 使用更快的基于 foreach 的实现。如果为 None，则对 CUDA 和 CPU 原生张量使用 foreach 实现，并对其他设备类型静默回退到慢速实现。默认值：None