PruningContainer

class torch.nn.utils.prune.PruningContainer(*args)

容器，用于保存迭代剪枝的剪枝方法序列。

跟踪剪枝方法的应用顺序，并处理连续剪枝调用的组合。

接受 BasePruningMethod 的实例或它们的可迭代对象作为参数。

add_pruning_method(method)

向容器添加子剪枝 method。

参数

method (subclass of BasePruningMethod) – 要添加到容器的子剪枝方法。

classmethod apply(module, name, *args, importance_scores=None, **kwargs)

动态添加剪枝和张量的重参数化。

添加前向预钩子，以启用动态剪枝，并根据原始张量和剪枝掩码重参数化张量。

参数

• module (nn.Module) – 包含要剪枝的张量的模块

• name (str) – module 中将要执行剪枝的参数名称。

• args – 传递给 BasePruningMethod 子类的参数

• importance_scores (torch.Tensor) – 重要性得分张量（与模块参数形状相同），用于计算剪枝掩码。此张量中的值指示要剪枝的参数中相应元素的重要性。如果未指定或为 None，则将使用参数本身。

• kwargs – 传递给 BasePruningMethod 子类的关键字参数

apply_mask(module)

简单处理正在剪枝的参数和生成的掩码之间的乘法。

从模块中获取掩码和原始张量，并返回张量的剪枝版本。

参数

module (nn.Module) – 包含要剪枝的张量的模块

返回

输入张量的剪枝版本

返回类型

pruned_tensor (torch.Tensor)

compute_mask(t, default_mask)

应用最新的 method，方法是计算新的部分掩码，并返回其与 default_mask 的组合。

新的部分掩码应根据未被 default_mask 置零的条目或通道计算。新掩码将从张量 t 的哪些部分计算取决于 PRUNING_TYPE（由类型处理程序处理）

• 对于“非结构化”，掩码将从非掩码条目的扁平列表中计算；

• 对于“结构化”，掩码将从张量中的非掩码通道计算；

• 对于“全局”，掩码将在所有条目上计算。

参数

• t (torch.Tensor) – 表示要剪枝的参数的张量（与 default_mask 的维度相同）。

• default_mask (torch.Tensor) – 来自先前剪枝迭代的掩码。

返回

mask (torch.Tensor) – 新掩码，它结合了 default_mask 和来自当前剪枝 method 的新掩码的效果（与 default_mask 和 t 的维度相同）。

返回类型

mask (torch.Tensor)

prune(t, default_mask=None, importance_scores=None)

计算并返回输入张量 t 的剪枝版本。

根据 compute_mask() 中指定的剪枝规则。

参数

• t (torch.Tensor) – 要剪枝的张量（与 default_mask 的维度相同）。

• importance_scores (torch.Tensor) – 重要性得分张量（与 t 的形状相同），用于计算剪枝 t 的掩码。此张量中的值指示要剪枝的 t 中相应元素的重要性。如果未指定或为 None，则将使用张量 t 本身。

• default_mask (torch.Tensor, optional) – 来自先前剪枝迭代的掩码（如果有）。在确定剪枝应作用于张量的哪个部分时要考虑。如果为 None，则默认为全 1 掩码。

返回

pruned version of tensor t. - 张量 t 的剪枝版本。

remove(module)

从模块中移除剪枝重参数化。

名为 name 的剪枝参数将永久保持剪枝状态，并且名为 name+'_orig' 的参数将从参数列表中移除。类似地，名为 name+'_mask' 的缓冲区将从缓冲区中移除。

注意

剪枝本身不会被撤销或反转！