torch.nn.functional¶
卷积函数¶
对由多个输入平面组成的输入信号应用一维卷积。 |
|
对由多个输入平面组成的输入图像应用二维卷积。 |
|
对由多个输入平面组成的输入图像应用三维卷积。 |
|
对由多个输入平面组成的输入信号应用一维转置卷积运算符,有时也称为“反卷积”。 |
|
对由多个输入平面组成的输入图像应用二维转置卷积运算符,有时也称为“反卷积”。 |
|
对由多个输入平面组成的输入图像应用三维转置卷积运算符,有时也称为“反卷积”。 |
|
从批处理输入张量中提取滑动局部块。 |
|
将滑动局部块数组组合成一个大型的包含张量。 |
池化函数¶
对由多个输入平面组成的输入信号应用一维平均池化。 |
|
在 区域中应用二维平均池化操作,步长为 。 |
|
在 区域中应用三维平均池化操作,步长为 。 |
|
对由多个输入平面组成的输入信号应用一维最大池化。 |
|
对由多个输入平面组成的输入信号应用二维最大池化。 |
|
对由多个输入平面组成的输入信号应用三维最大池化。 |
|
计算 |
|
计算 |
|
计算 |
|
对由多个输入平面组成的输入信号应用一维幂平均池化。 |
|
对由多个输入平面组成的输入信号应用二维幂平均池化。 |
|
对由多个输入平面组成的输入信号应用三维幂平均池化。 |
|
对由多个输入平面组成的输入信号应用一维自适应最大池化。 |
|
对由多个输入平面组成的输入信号应用二维自适应最大池化。 |
|
对由多个输入平面组成的输入信号应用三维自适应最大池化。 |
|
对由多个输入平面组成的输入信号应用一维自适应平均池化。 |
|
对由多个输入平面组成的输入信号应用二维自适应平均池化。 |
|
对由多个输入平面组成的输入信号应用三维自适应平均池化。 |
|
对由多个输入平面组成的输入信号应用二维分数最大池化。 |
|
对由多个输入平面组成的输入信号应用三维分数最大池化。 |
注意力机制¶
torch.nn.attention.bias
模块包含 attention_biases,这些 biases 旨在与 scaled_dot_product_attention 一起使用。
scaled_dot_product_attention(query, key, value, attn_mask=None, dropout_p=0.0, |
非线性激活函数¶
对输入张量的每个元素应用阈值。 |
|
|
|
逐元素应用整流线性单元函数。 |
|
|
|
逐元素应用 HardTanh 函数。 |
|
|
|
逐元素应用 hardswish 函数。 |
|
逐元素应用函数 . |
|
逐元素应用指数线性单元 (ELU) 函数。 |
|
|
|
逐元素应用 |
|
逐元素应用 函数。 |
|
逐元素应用 函数。 |
|
|
|
逐元素应用函数 ,其中 weight 是一个可学习的参数。 |
|
随机泄漏 ReLU。 |
|
|
|
门控线性单元。 |
|
当近似参数为“none”时,它会对元素应用函数 |
|
对元素应用 |
|
对元素应用硬阈值收缩函数。 |
|
对元素应用 |
|
对元素应用函数 |
|
对元素应用函数. |
|
应用softmin函数。 |
|
应用softmax函数。 |
|
对元素应用软阈值收缩函数。 |
|
应用softmax函数,然后取对数。 |
|
对元素应用 |
|
对元素应用函数 |
|
逐元素应用Hardsigmoid函数。 |
|
逐元素应用Sigmoid线性单元(SiLU)函数。 |
|
逐元素应用Mish函数。 |
|
对一批数据中每个通道应用批标准化。 |
|
对最后几个维度应用组标准化。 |
|
对批处理中每个数据样本的每个通道独立应用实例标准化。 |
|
对最后几个维度应用层标准化。 |
|
对输入信号应用局部响应归一化。 |
|
应用均方根层标准化。 |
|
在指定维度上对输入执行范数归一化。 |
Dropout函数¶
在训练期间,以概率 |
|
对输入应用alpha dropout。 |
|
随机屏蔽整个通道(通道是特征图)。 |
|
随机清零整个通道(通道是一维特征图)。 |
|
随机清零整个通道(通道是二维特征图)。 |
|
随机清零整个通道(通道是三维特征图)。 |
稀疏函数¶
生成一个简单的查找表,在固定字典和大小中查找嵌入。 |
|
计算嵌入“包”的和、平均值或最大值。 |
|
接收形状为 |
距离函数¶
有关详细信息,请参阅 |
|
返回沿dim计算的 |
|
计算输入中每一对行向量之间的p范数距离。 |
损失函数¶
测量目标和输入概率之间的二元交叉熵。 |
|
计算目标和输入logit之间的二元交叉熵。 |
|
泊松负对数似然损失。 |
|
有关详细信息,请参阅 |
|
计算输入logit和目标之间的交叉熵损失。 |
|
应用连接时序分类损失。 |
|
高斯负对数似然损失。 |
|
有关详细信息,请参阅 |
|
计算KL散度损失。 |
|
计算元素级绝对值差的平均值。 |
|
测量元素级均方误差。 |
|
有关详细信息,请参阅 |
|
有关详细信息,请参阅 |
|
有关详细信息,请参阅 |
|
有关详细信息,请参阅 |
|
计算负对数似然损失。 |
|
计算Huber损失。 |
|
计算平滑L1损失。 |
|
有关详细信息,请参阅 |
|
计算给定输入张量之间的三元组损失,其边距大于0。 |
|
使用自定义距离函数计算输入张量的三元组边距损失。 |
视觉函数¶
重新排列形状为 张量的元素,使其变为形状为 的张量,其中 r 是 |
|
通过重新排列形状为 张量的元素,反转 |
|
填充张量。 |
|
对输入进行下采样或上采样。 |
|
对输入进行上采样。 |
|
使用最近邻像素值对输入进行上采样。 |
|
使用双线性插值对输入进行上采样。 |
|
计算网格采样。 |
|
给定一批仿射矩阵 |