LazyBatchNorm1d¶
- class torch.nn.LazyBatchNorm1d(eps=1e-05, momentum=0.1, affine=True, track_running_stats=True, device=None, dtype=None)[source][source]¶
一个具有延迟初始化的
torch.nn.BatchNorm1d
模块。根据从
input.size(1)
推断出的BatchNorm1d
的num_features
参数进行延迟初始化。将被延迟初始化的属性包括 weight、bias、running_mean 和 running_var。有关延迟模块及其限制的更多文档,请查阅
torch.nn.modules.lazy.LazyModuleMixin
。- 参数
eps (float) – 添加到分母上的值,用于数值稳定性。默认值: 1e-5
momentum (Optional[float]) – 用于计算 running_mean 和 running_var 的值。可以设置为
None
以使用累积移动平均(即简单平均)。默认值: 0.1affine (bool) – 一个布尔值,设置为
True
时,此模块具有可学习的仿射参数。默认值:True
track_running_stats (bool) – 一个布尔值,设置为
True
时,此模块跟踪运行中的均值和方差;设置为False
时,此模块不跟踪这些统计信息,并将统计缓冲区running_mean
和running_var
初始化为None
。当这些缓冲区为None
时,此模块在训练和评估模式下始终使用批次统计信息。默认值:True