TanhGate

class torchtune.modules.TanhGate

实现一个基本的、可学习的门控机制来缩放层输出

forward(x: Tensor) → Tensor

参数:

x (torch.Tensor) – 要进行门控的输入张量

返回:

门控后的输出张量。形状与 x 相同。

返回类型:

torch.Tensor