torch.autograd.functional.jvp

torch.autograd.functional.jvp(func, inputs, v=None, create_graph=False, strict=False)

计算给定函数在由输入给定的点处的雅可比矩阵与向量 v 之间的点积。

参数

• func (函数) – 一个 Python 函数，它接受 Tensor 输入并返回 Tensor 元组或 Tensor。

• inputs (Tensor 元组 或 Tensor) – 函数 func 的输入。

• v (Tensor 元组 或 Tensor) – 用于计算雅可比向量积的向量。必须与 func 的输入大小相同。当 func 的输入包含单个元素时，此参数是可选的，（如果未提供）将被设置为包含单个 1 的 Tensor。

• create_graph (bool, 可选) – 如果为 True，则输出和结果都将以可微分的方式计算。请注意，当 strict 为 False 时，结果不能要求梯度或与输入断开连接。默认为 False。

• strict (bool, 可选) – 如果为 True，则当检测到存在一个输入，使得所有输出都独立于该输入时，将引发错误。如果为 False，我们将返回零 Tensor 作为所述输入的 jvp，这是预期的数学值。默认为 False。

返回

元组，包含

func_output (Tensor 元组或 Tensor): func(inputs) 的输出

jvp (Tensor 元组或 Tensor): 与输出形状相同的点积结果。

返回类型

output (元组)

注意

autograd.functional.jvp 通过使用反向的反向（有时称为双反向技巧）来计算 jvp。这不是计算 jvp 的最有效方法。请考虑使用 torch.func.jvp() 或 底层前向模式 AD API 代替。

示例

>>> def exp_reducer(x):
...     return x.exp().sum(dim=1)
>>> inputs = torch.rand(4, 4)
>>> v = torch.ones(4, 4)
>>> jvp(exp_reducer, inputs, v)
(tensor([6.3090, 4.6742, 7.9114, 8.2106]),
 tensor([6.3090, 4.6742, 7.9114, 8.2106]))

>>> jvp(exp_reducer, inputs, v, create_graph=True)
(tensor([6.3090, 4.6742, 7.9114, 8.2106], grad_fn=<SumBackward1>),
 tensor([6.3090, 4.6742, 7.9114, 8.2106], grad_fn=<SqueezeBackward1>))

>>> def adder(x, y):
...     return 2 * x + 3 * y
>>> inputs = (torch.rand(2), torch.rand(2))
>>> v = (torch.ones(2), torch.ones(2))
>>> jvp(adder, inputs, v)
(tensor([2.2399, 2.5005]),
 tensor([5., 5.]))