对由多个输入平面组成的输入信号应用 3D 卷积。
在最简单的情况下,该层在输入大小为 ( N , C i n , D , H , W ) (N, C_{in}, D, H, W) ( N , C in , D , H , W ) 和输出 ( N , C o u t , D o u t , H o u t , W o u t ) (N, C_{out}, D_{out}, H_{out}, W_{out}) ( N , C o u t , D o u t , H o u t , W o u t ) 可以精确地描述为
o u t ( N i , C o u t j ) = b i a s ( C o u t j ) + ∑ k = 0 C i n − 1 w e i g h t ( C o u t j , k ) ⋆ i n p u t ( N i , k ) out(N_i, C_{out_j}) = bias(C_{out_j}) + \sum_{k = 0}^{C_{in} - 1} weight(C_{out_j}, k) \star input(N_i, k) o u t ( N i , C o u t j ) = bia s ( C o u t j ) + k = 0 ∑ C in − 1 w e i g h t ( C o u t j , k ) ⋆ in p u t ( N i , k ) 其中 ⋆ \star ⋆ 是有效的 3D 互相关 运算符
此模块支持 TensorFloat32 。
在某些 ROCm 设备上,当使用 float16 输入时,此模块将使用 不同的精度 进行反向传播。
stride
控制互相关的步长。
padding
控制应用于输入的填充量。它可以是字符串 {‘valid’, ‘same’} 或者一个包含整数的元组,表示在两侧应用的隐式填充量。
dilation
控制内核点之间的间距;也称为 à trous 算法。它很难描述,但是这个 链接 对 dilation
的作用进行了很好的可视化。
groups
控制输入和输出之间的连接。 in_channels
和 out_channels
都必须可被 groups
整除。例如,
当 groups=1 时,所有输入都与所有输出进行卷积。
当 groups=2 时,操作等效于并排放置两个卷积层,每个层看到一半的输入通道并生成一半的输出通道,然后将两者连接在一起。
当 groups= in_channels
时,每个输入通道都使用自己的过滤器集进行卷积(大小为 out_channels in_channels \frac{\text{out\_channels}}{\text{in\_channels}} in_channels out_channels )。
参数 kernel_size
、stride
、padding
、dilation
可以是
注意
当 groups == in_channels 且 out_channels == K * in_channels (其中 K 是一个正整数)时,此操作也被称为“深度卷积”。
换句话说,对于大小为 ( N , C i n , L i n ) (N, C_{in}, L_{in}) ( N , C in , L in ) 的输入,深度可分离卷积(depthwise convolution)可以使用深度乘数 K 和参数 ( C in = C in , C out = C in × K , . . . , groups = C in ) (C_\text{in}=C_\text{in}, C_\text{out}=C_\text{in} \times \text{K}, ..., \text{groups}=C_\text{in}) ( C in = C in , C out = C in × K , ... , groups = C in ) 执行。
注意
在某些情况下,当在 CUDA 设备上给出张量并使用 CuDNN 时,此操作可能会选择非确定性算法来提高性能。如果这是不可取的,您可以尝试通过设置 torch.backends.cudnn.deterministic = True
使操作确定性(可能以性能为代价)。有关更多信息,请参见 可重复性 。
注意
padding='valid'
等同于不进行填充。 padding='same'
对输入进行填充,以便输出的形状与输入相同。但是,此模式不支持除 1 之外的任何步幅值。
注意
此模块支持复数数据类型,例如 complex32, complex64, complex128
。
参数
in_channels (int ) – 输入图像中的通道数
out_channels (int ) – 卷积产生的通道数
kernel_size (int 或 tuple ) – 卷积核的大小
stride (int 或 tuple , 可选 ) – 卷积的步幅。默认值:1
padding (int , tuple 或 str , 可选 ) – 添加到输入所有六个边的填充。默认值:0
dilation (int 或 tuple , 可选 ) – 卷积核元素之间的间距。默认值:1
groups (int , 可选 ) – 从输入通道到输出通道的阻塞连接的数量。默认值:1
bias (bool , 可选 ) – 如果为 True
,则向输出添加一个可学习的偏置。默认值:True
padding_mode (str , 可选 ) – 'zeros'
, 'reflect'
, 'replicate'
或 'circular'
。默认值:'zeros'
形状
输入: ( N , C i n , D i n , H i n , W i n ) (N, C_{in}, D_{in}, H_{in}, W_{in}) ( N , C in , D in , H in , W in ) 或 ( C i n , D i n , H i n , W i n ) (C_{in}, D_{in}, H_{in}, W_{in}) ( C in , D in , H in , W in )
输出: ( N , C o u t , D o u t , H o u t , W o u t ) (N, C_{out}, D_{out}, H_{out}, W_{out}) ( N , C o u t , D o u t , H o u t , W o u t ) 或 ( C o u t , D o u t , H o u t , W o u t ) (C_{out}, D_{out}, H_{out}, W_{out}) ( C o u t , D o u t , H o u t , W o u t ) , 其中
D o u t = ⌊ D i n + 2 × padding [ 0 ] − dilation [ 0 ] × ( kernel_size [ 0 ] − 1 ) − 1 stride [ 0 ] + 1 ⌋ D_{out} = \left\lfloor\frac{D_{in} + 2 \times \text{padding}[0] - \text{dilation}[0] \times (\text{kernel\_size}[0] - 1) - 1}{\text{stride}[0]} + 1\right\rfloor D o u t = ⌊ stride [ 0 ] D in + 2 × padding [ 0 ] − dilation [ 0 ] × ( kernel_size [ 0 ] − 1 ) − 1 + 1 ⌋
H o u t = ⌊ H i n + 2 × padding [ 1 ] − dilation [ 1 ] × ( kernel_size [ 1 ] − 1 ) − 1 stride [ 1 ] + 1 ⌋ H_{out} = \left\lfloor\frac{H_{in} + 2 \times \text{padding}[1] - \text{dilation}[1] \times (\text{kernel\_size}[1] - 1) - 1}{\text{stride}[1]} + 1\right\rfloor H
W o u t = ⌊ W i n + 2 × padding [ 2 ] − dilation [ 2 ] × ( kernel_size [ 2 ] − 1 ) − 1 stride [ 2 ] + 1 ⌋ W_{out} = \left\lfloor\frac{W_{in} + 2 \times \text{padding}[2] - \text{dilation}[2] \times (\text{kernel\_size}[2] - 1) - 1}{\text{stride}[2]} + 1\right\rfloor W o u t = ⌊ stride [ 2 ] W in + 2 × padding [ 2 ] − dilation [ 2 ] × ( kernel_size [ 2 ] − 1 ) − 1 + 1 ⌋
变量
weight (Tensor ) – 模块的可学习权重,形状为 ( out_channels , in_channels groups , (\text{out\_channels}, \frac{\text{in\_channels}}{\text{groups}}, ( out_channels , groups in_channels , kernel_size[0] , kernel_size[1] , kernel_size[2] ) \text{kernel\_size[0]}, \text{kernel\_size[1]}, \text{kernel\_size[2]}) kernel_size[0] , kernel_size[1] , kernel_size[2] ) . 这些权重的值从 U ( − k , k ) \mathcal{U}(-\sqrt{k}, \sqrt{k}) U ( − k , k ) ,其中 k = g r o u p s C in ∗ ∏ i = 0 2 kernel_size [ i ] k = \frac{groups}{C_\text{in} * \prod_{i=0}^{2}\text{kernel\_size}[i]} k = C in ∗ ∏ i = 0 2 kernel_size [ i ] g ro u p s
偏置 (张量 ) – 模块的可学习偏置,形状为 (out_channels)。如果 bias
为 True
,则这些权重的值将从 U ( − k , k ) \mathcal{U}(-\sqrt{k}, \sqrt{k}) U ( − k , k ) 其中 k = g r o u p s C in ∗ ∏ i = 0 2 kernel_size [ i ] k = \frac{groups}{C_\text{in} * \prod_{i=0}^{2}\text{kernel\_size}[i]} k = C in ∗ ∏ i = 0 2 kernel_size [ i ] g ro u p s
示例
>>> # With square kernels and equal stride
>>> m = nn . Conv3d ( 16 , 33 , 3 , stride = 2 )
>>> # non-square kernels and unequal stride and with padding
>>> m = nn . Conv3d ( 16 , 33 , ( 3 , 5 , 2 ), stride = ( 2 , 1 , 1 ), padding = ( 4 , 2 , 0 ))
>>> input = torch . randn ( 20 , 16 , 10 , 50 , 100 )
>>> output = m ( input )