LazyBatchNorm2d¶
- class torch.nn.LazyBatchNorm2d(eps=1e-05, momentum=0.1, affine=True, track_running_stats=True, device=None, dtype=None)[source][source]¶
一个具有延迟初始化功能的
torch.nn.BatchNorm2d
模块。延迟初始化针对从
input.size(1)
推断出的BatchNorm2d
的num_features
参数进行。将被延迟初始化的属性是 weight、bias、running_mean 和 running_var。查看
torch.nn.modules.lazy.LazyModuleMixin
,获取关于延迟模块及其限制的更多文档。- 参数
eps (float) – 为数值稳定性添加到分母上的值。默认值:1e-5
momentum (Optional[float]) – 用于 running_mean 和 running_var 计算的值。可以设置为
None
以进行累积移动平均(即简单平均)。默认值:0.1affine (bool) – 一个布尔值,当设置为
True
时,此模块具有可学习的仿射参数。默认值:True
track_running_stats (bool) – 一个布尔值,当设置为
True
时,此模块跟踪运行平均值和方差,当设置为False
时,此模块不跟踪此类统计信息,并将统计缓冲区running_mean
和running_var
初始化为None
。当这些缓冲区为None
时,此模块在训练和评估模式下始终使用批处理统计信息。默认值:True