快捷方式

L1Unstructured

torch.nn.utils.prune.L1Unstructured(amount)[source][source]

通过将 L1 范数最低的单元归零来修剪张量中(当前未修剪的)单元。

参数

amount (intfloat) – 要修剪的参数数量。如果为 float 类型,值应介于 0.0 和 1.0 之间,表示要修剪的参数比例。如果为 int 类型,则表示要修剪的参数的绝对数量。

类方法 apply(module, name, amount, importance_scores=None)[source][source]

添加即时修剪和张量的重参数化。

添加正向预钩子,启用即时修剪,并将张量通过原始张量和修剪掩码进行重参数化。

参数
  • module (nn.Module) – 包含要修剪的张量的模块

  • name (str) – module 中将进行修剪的参数名称。

  • amount (intfloat) – 要修剪的参数数量。如果为 float 类型,值应介于 0.0 和 1.0 之间,表示要修剪的参数比例。如果为 int 类型,则表示要修剪的参数的绝对数量。

  • importance_scores (torch.Tensor) – 重要性得分张量(与模块参数形状相同),用于计算修剪的掩码。此张量中的值表示被修剪参数中对应元素的重要性。如果未指定或为 None,则将使用模块参数本身。

apply_mask(module)[source]

仅处理被修剪参数与生成的掩码之间的乘法。

从模块中获取掩码和原始张量,并返回张量的修剪版本。

参数

module (nn.Module) – 包含要修剪的张量的模块

返回

输入张量的修剪版本

返回类型

pruned_tensor (torch.Tensor)

prune(t, default_mask=None, importance_scores=None)[source]

计算并返回输入张量 t 的修剪版本。

根据 compute_mask() 中指定的修剪规则。

参数
  • t (torch.Tensor) – 要修剪的张量(与 default_mask 具有相同维度)。

  • importance_scores (torch.Tensor) – 重要性得分张量(与 t 具有相同形状),用于计算修剪 t 的掩码。此张量中的值表示被修剪的 t 中对应元素的重要性。如果未指定或为 None,则将使用张量 t 本身。

  • default_mask (torch.Tensor, 可选) – 来自之前修剪迭代的掩码(如果有)。在确定修剪应作用于张量的哪一部分时需要考虑。如果为 None,则默认为全 1 的掩码。

返回

张量 t 的修剪版本。

remove(module)[source]

从模块中移除修剪重参数化。

名为 name 的被修剪参数将永久保持修剪状态,名为 name+'_orig' 的参数将从参数列表中移除。类似地,名为 name+'_mask' 的缓冲区将从缓冲区列表中移除。

注意

修剪本身不会被撤销或反转!

文档

查阅 PyTorch 的全面开发者文档

查看文档

教程

获取面向初学者和高级开发者的深入教程

查看教程

资源

查找开发资源并获得问题解答

查看资源