MultiMarginLoss

class torch.nn.MultiMarginLoss(p=1, margin=1.0, weight=None, size_average=None, reduce=None, reduction='mean')

创建一个准则，用于优化输入 $x$（一个二维 mini-batch Tensor）和输出 $y$（一个目标类别索引的一维 Tensor，$0 \leq y \leq \text{x.size}(1)-1$）之间的多类别分类铰链损失（基于边界的损失）

对于每个 mini-batch 样本，一维输入 $x$ 和标量输出 $y$ 的损失计算如下：

$$\text{loss}(x, y) = \frac{\sum_i \max(0, \text{margin} - x[y] + x[i])^p}{\text{x.size}(0)}$$

其中 $i \in \left\{0, \; \cdots , \; \text{x.size}(0) - 1\right\}$ 且 $i \neq y$。

或者，您可以通过向构造函数传递一个一维的 weight Tensor 来为各个类别设置不等权重。

此时损失函数变为：

$$\text{loss}(x, y) = \frac{\sum_i w[y] * \max(0, \text{margin} - x[y] + x[i])^p}{\text{x.size}(0)}$$

参数

• p (int, 可选) – 默认值为 $1$。$1$ 和 $2$ 是唯一支持的值。

• margin (float, 可选) – 默认值为 $1$。

• weight (Tensor, 可选) – 为每个类别手动指定的缩放权重。如果给定，它必须是一个大小为 C 的 Tensor。否则，它将被视为所有元素都为 1。

• size_average (bool, 可选) – 已弃用（请参阅 reduction）。默认情况下，损失会在 batch 中的每个损失元素上求平均。请注意，对于某些损失，每个样本可能有多个元素。如果字段 size_average 设置为 False，则损失将对每个 minibatch 求和。当 reduce 为 False 时忽略此参数。默认值：True

• reduce (bool, 可选) – 已弃用（请参阅 reduction）。默认情况下，损失会根据 size_average 对每个 minibatch 的观测值求平均或求和。当 reduce 为 False 时，返回每个 batch 元素的损失，并忽略 size_average。默认值：True

• reduction (str, 可选) – 指定应用于输出的 reduction 方法：'none' | 'mean' | 'sum'。'none'：不应用 reduction；'mean'：输出的总和将除以输出中的元素数量；'sum'：输出将被求和。注意：size_average 和 reduce 正在被弃用，在此期间，指定这两个参数中的任何一个都将覆盖 reduction。默认值：'mean'

形状

• 输入：$(N, C)$ 或 $(C)$，其中 $N$ 是 batch 大小，$C$ 是类别数量。

• 目标：$(N)$ 或 $()$，其中每个值都在 $0 \leq \text{targets}[i] \leq C-1$ 范围内。

• 输出：标量。如果 reduction 是 'none'，则形状与目标相同。

示例

>>> loss = nn.MultiMarginLoss()
>>> x = torch.tensor([[0.1, 0.2, 0.4, 0.8]])
>>> y = torch.tensor([3])
>>> # 0.25 * ((1-(0.8-0.1)) + (1-(0.8-0.2)) + (1-(0.8-0.4)))
>>> loss(x, y)
tensor(0.32...)