Dropout

class torch.nn.Dropout(p=0.5, inplace=False)

在训练期间，以概率 p 随机将输入张量中的某些元素置零。

对于每次正向调用，都会独立选择零元素，并从伯努利分布中采样。

每个通道将在每次正向调用时独立地被清零。

事实证明，这是一种有效的正则化技术，可以防止神经元的共同适应，如论文 通过阻止特征检测器的共同适应来改进神经网络 中所述。

此外，在训练期间，输出按 $\frac{1}{1-p}$ 缩放。这意味着在评估期间，模块只计算一个恒等函数。

参数

• p (float) – 元素被置零的概率。默认值：0.5

• inplace (bool) – 如果设置为 True，将就地执行此操作。默认值：False

形状

• 输入：$(*)$。输入可以是任何形状

• 输出：$(*)$。输出与输入的形状相同

示例

>>> m = nn.Dropout(p=0.2)
>>> input = torch.randn(20, 16)
>>> output = m(input)