Bilinear

class torch.nn.Bilinear(in1_features, in2_features, out_features, bias=True, device=None, dtype=None)

对输入数据应用双线性变换： $y = x_1^T A x_2 + b$。

参数

• in1_features (int) – 每个第一个输入样本的大小

• in2_features (int) – 每个第二个输入样本的大小

• out_features (int) – 每个输出样本的大小

• bias (bool) – 如果设置为 False，则该层将不会学习加性偏置。默认值： True

形状

• Input1: $(*, H_{in1})$ 其中 $H_{in1}=\text{in1\_features}$ 且 $*$ 表示任意数量的附加维度，包括无。除了输入的最后一个维度外，所有维度都应相同。

• Input2: $(*, H_{in2})$ 其中 $H_{in2}=\text{in2\_features}$。

• Output: $(*, H_{out})$ 其中 $H_{out}=\text{out\_features}$ 且除了最后一个维度外，所有维度都与输入形状相同。

变量

• weight (torch.Tensor) – 模块的可学习权重，形状为 $(\text{out\_features}, \text{in1\_features}, \text{in2\_features})$。值从 $\mathcal{U}(-\sqrt{k}, \sqrt{k})$ 初始化，其中 $k = \frac{1}{\text{in1\_features}}$

• bias – 模块的可学习偏置，形状为 $(\text{out\_features})$。如果 bias 为 True，则值从 $\mathcal{U}(-\sqrt{k}, \sqrt{k})$ 初始化，其中 $k = \frac{1}{\text{in1\_features}}$

示例

>>> m = nn.Bilinear(20, 30, 40)
>>> input1 = torch.randn(128, 20)
>>> input2 = torch.randn(128, 30)
>>> output = m(input1, input2)
>>> print(output.size())
torch.Size([128, 40])