PruningContainer

class torch.nn.utils.prune.PruningContainer(*args)

用于迭代剪枝的一系列剪枝方法的容器。

跟踪应用剪枝方法的顺序，并处理合并连续剪枝调用的操作。

接受 BasePruningMethod 的实例或其可迭代对象作为参数。

add_pruning_method(method)

向容器添加子剪枝method。

参数

method (subclass of BasePruningMethod) – 要添加到容器的子剪枝方法。

classmethod apply(module, name, *args, importance_scores=None, **kwargs)

动态添加剪枝并对张量进行重新参数化。

添加前向预钩子，该钩子可以动态启用剪枝，并将张量根据原始张量和剪枝掩码进行重新参数化。

参数

• module (nn.Module) – 包含要剪枝的张量的模块

• name (str) – module 中要进行剪枝操作的参数名称。

• args – 传递给 BasePruningMethod 子类的参数

• importance_scores (torch.Tensor) – 用于计算剪枝掩码的重要性分数张量（与模块参数形状相同）。此张量中的值表示要剪枝的参数中相应元素的重要性。如果未指定或为 None，则将使用参数本身。

• kwargs – 传递给 BasePruningMethod 子类的关键字参数

apply_mask(module)

简单地处理要剪枝的参数与生成的掩码之间的乘法。

从模块中获取掩码和原始张量，并返回张量的剪枝版本。

参数

module (nn.Module) – 包含要剪枝的张量的模块

返回

输入张量的剪枝版本

返回类型

pruned_tensor (torch.Tensor)

compute_mask(t, default_mask)

通过计算新的部分掩码并将其与default_mask组合来应用最新的method。

新的部分掩码应该在未被default_mask清零的条目或通道上计算。张量t的哪些部分将用于计算新掩码取决于PRUNING_TYPE（由类型处理程序处理）

• 对于“非结构化”，掩码将根据未掩码条目的展平列表计算；

• 对于“结构化”，掩码将根据张量中未掩码的通道计算；

• 对于“全局”，掩码将在所有条目中计算。

参数

• t (torch.Tensor) – 表示要剪枝的参数的张量（与default_mask具有相同的维度）。

• default_mask (torch.Tensor) – 来自先前剪枝迭代的掩码。

返回

组合default_mask和当前剪枝method的新掩码的效果的新掩码（与default_mask和t具有相同的维度）。

返回类型

mask (torch.Tensor)

prune(t, default_mask=None, importance_scores=None)

计算并返回输入张量 t 的修剪版本。

根据 compute_mask() 中指定的修剪规则。

参数

• t (torch.Tensor) – 要修剪的张量（与 default_mask 维度相同）。

• importance_scores (torch.Tensor) – 重要性分数张量（与 t 形状相同），用于计算修剪 t 的掩码。此张量中的值指示被修剪的 t 中对应元素的重要性。如果未指定或为 None，则将使用张量 t 本身代替。

• default_mask (torch.Tensor, 可选) – 来自先前修剪迭代的掩码（如果有）。在确定修剪应作用于张量的哪一部分时需要考虑。如果为 None，则默认为全为一的掩码。

返回

张量 t 的修剪版本。

remove(module)

从模块中移除修剪重新参数化。

名为 name 的修剪参数将永久保留修剪状态，并且名为 name+'_orig' 的参数将从参数列表中移除。类似地，名为 name+'_mask' 的缓冲区将从缓冲区中移除。

注意

修剪本身**不会**被撤消或反转！