RandomStructured

class torch.nn.utils.prune.RandomStructured(amount, dim=-1)

随机修剪张量中整个（当前未修剪的）通道。

参数

• amount (int 或 float) – 要修剪的参数数量。如果为 float，则应在 0.0 和 1.0 之间，表示要修剪的参数的比例。如果为 int，则表示要修剪的参数的绝对数量。

• dim (int，可选) – 定义要修剪的通道的维度索引。默认值：-1。

classmethod apply(module, name, amount, dim=-1)

动态添加修剪和张量的重新参数化。

添加前向预钩子，该钩子可以动态启用修剪并根据原始张量和修剪掩码重新参数化张量。

参数

• module (nn.Module) – 包含要修剪的张量的模块

• name (str) – module 中将对其执行修剪操作的参数名称。

• amount (int 或 float) – 要修剪的参数数量。如果为 float，则应在 0.0 和 1.0 之间，表示要修剪的参数的比例。如果为 int，则表示要修剪的参数的绝对数量。

• dim (int，可选) – 定义要修剪的通道的维度索引。默认值：-1。

apply_mask(module)

仅处理要修剪的参数和生成的掩码之间的乘法。

从模块中获取掩码和原始张量，并返回张量的修剪版本。

参数

module (nn.Module) – 包含要修剪的张量的模块

返回值

输入张量的修剪版本

返回类型

pruned_tensor (torch.Tensor)

compute_mask(t, default_mask)

计算并返回输入张量 t 的掩码。

从基本 default_mask（如果张量尚未修剪，则应为全 1 掩码）开始，通过随机将张量沿指定维度零化通道来生成应用于 default_mask 之上的随机掩码。

参数

• t (torch.Tensor) – 表示要修剪的参数的张量

• default_mask (torch.Tensor) – 来自先前修剪迭代的基本掩码，在应用新掩码后需要尊重该掩码。与 t 的维度相同。

返回值

要应用于 t 的掩码，与 t 的维度相同

返回类型

mask (torch.Tensor)

引发

IndexError – 如果 self.dim >= len(t.shape)

prune(t, default_mask=None, importance_scores=None)

计算并返回输入张量 t 的修剪版本。

根据 compute_mask() 中指定的修剪规则。

参数

• t (torch.Tensor) – 要修剪的张量（与 default_mask 的维度相同）。

• importance_scores (torch.Tensor) – 用于计算修剪 t 的掩码的重要性得分张量（与 t 形状相同）。此张量中的值表示正在修剪的 t 中对应元素的重要性。如果未指定或为 None，则将使用张量 t 代替。

• default_mask (torch.Tensor, 可选) – 来自先前修剪迭代的掩码（如果有）。在确定修剪应作用于张量的哪个部分时需要考虑。如果为 None，则默认为全为 1 的掩码。

返回值

张量 t 的修剪版本。

remove(module)

从模块中移除修剪重新参数化。

名为 name 的修剪参数将永久保留修剪状态，而名为 name+'_orig' 的参数将从参数列表中移除。类似地，名为 name+'_mask' 的缓冲区将从缓冲区中移除。

注意

修剪本身**不会**被撤消或反转！