双线性

class torch.nn.Bilinear(in1_features, in2_features, out_features, bias=True, device=None, dtype=None)

对输入数据应用双线性变换： $y = x_1^T A x_2 + b$.

参数

• in1_features (int) – 每个第一个输入样本的大小

• in2_features (int) – 每个第二个输入样本的大小

• out_features (int) – 每个输出样本的大小

• bias (bool) – 如果设置为 False，则该层不会学习加性偏差。默认值：True

形状

• 输入1: $(*, H_{in1})$，其中 $H_{in1}=\text{in1\_features}$ 且 $*$ 表示任意数量的额外维度，包括零个。所有输入除了最后一个维度之外都应该相同。

• 输入2: $(*, H_{in2})$，其中 $H_{in2}=\text{in2\_features}$。

• 输出: $(*, H_{out})$，其中 $H_{out}=\text{out\_features}$，并且除了最后一个维度之外，所有维度都与输入具有相同的形状。

变量

• 权重 (torch.Tensor) – 模块的可学习权重，形状为 $(\text{out\_features}, \text{in1\_features}, \text{in2\_features})$。这些值从 $\mathcal{U}(-\sqrt{k}, \sqrt{k})$ 初始化，其中 $k = \frac{1}{\text{in1\_features}}$

• 偏置 – 模块的可学习偏置，形状为 $(\text{out\_features})$. 如果 bias 为 True，则值从 $\mathcal{U}(-\sqrt{k}, \sqrt{k})$ 初始化，其中 $k = \frac{1}{\text{in1\_features}}$

示例

>>> m = nn.Bilinear(20, 30, 40)
>>> input1 = torch.randn(128, 20)
>>> input2 = torch.randn(128, 30)
>>> output = m(input1, input2)
>>> print(output.size())
torch.Size([128, 40])