torch.autograd.functional.jvp

torch.autograd.functional.jvp(func, inputs, v=None, create_graph=False, strict=False)

计算给定函数在给定输入点处的雅可比矩阵与向量 v 的点积。

参数

• func (function) – 一个接受 Tensor 输入并返回 Tensor 元组或 Tensor 的 Python 函数。

• inputs (Tensor 元组 或 Tensor) – func 函数的输入。

• v (Tensor 元组 或 Tensor) – 用于计算雅可比向量积的向量。必须与 func 的输入大小相同。当 func 的输入包含单个元素时，此参数是可选的 (如果未提供)，将被设置为包含单个 1 的 Tensor。

• create_graph (布尔值, 可选) – 如果为 True，输出和结果都将以可微分的方式计算。请注意，当 strict 为 False 时，结果不能需要梯度或与输入断开连接。默认为 False。

• strict (布尔值, 可选) – 如果为 True，当我们检测到存在某个输入，其所有输出都与该输入无关时，将引发错误。如果为 False，则对于这些输入，我们将返回一个零 Tensor 作为 jvp，这是预期的数学值。默认为 False。

返回值

元组，包含

func_output (Tensor 元组 或 Tensor): func(inputs) 的输出

jvp (Tensor 元组 或 Tensor): 点积的结果，形状与输出相同。

返回类型

output (tuple)

注意

autograd.functional.jvp 通过使用反向传播的反向传播（有时称为双重反向传播技巧）来计算 jvp。这不是计算 jvp 最高效的方法。请考虑改用 torch.func.jvp() 或低级前向模式 AD API。

示例

>>> def exp_reducer(x):
...     return x.exp().sum(dim=1)
>>> inputs = torch.rand(4, 4)
>>> v = torch.ones(4, 4)
>>> jvp(exp_reducer, inputs, v)
(tensor([6.3090, 4.6742, 7.9114, 8.2106]),
 tensor([6.3090, 4.6742, 7.9114, 8.2106]))

>>> jvp(exp_reducer, inputs, v, create_graph=True)
(tensor([6.3090, 4.6742, 7.9114, 8.2106], grad_fn=<SumBackward1>),
 tensor([6.3090, 4.6742, 7.9114, 8.2106], grad_fn=<SqueezeBackward1>))

>>> def adder(x, y):
...     return 2 * x + 3 * y
>>> inputs = (torch.rand(2), torch.rand(2))
>>> v = (torch.ones(2), torch.ones(2))
>>> jvp(adder, inputs, v)
(tensor([2.2399, 2.5005]),
 tensor([5., 5.]))