torch.autograd.functional.vjp¶
- torch.autograd.functional.vjp(func, inputs, v=None, create_graph=False, strict=False)[源代码]¶
计算向量
v
与给定函数在输入给定点处的雅可比矩阵之间的点积。- 参数
func (函数) – 一个 Python 函数,它接受张量输入并返回一个张量元组或一个张量。
v (元组 的 张量 或 张量) – 计算向量雅可比积的向量。必须与
func
的输出大小相同。当func
的输出包含单个元素且(如果未提供)时,此参数是可选的,并将设置为包含单个1
的张量。create_graph (布尔值、可选) – 如果为
True
,则输出和结果都将以可微的方式计算。请注意,当strict
为False
时,结果不能需要梯度或与输入断开连接。默认为False
。strict (布尔值、可选) – 如果为
True
,则当我们检测到存在一个输入使得所有输出都独立于它时,将引发错误。如果为False
,我们将返回一个零张量作为所述输入的 vjp,这是预期的数学值。默认为False
。
- 返回值
- 包含以下内容的元组:
func_output (张量元组或张量):
func(inputs)
的输出vjp (张量元组或张量):点积的结果,其形状与输入相同。
- 返回类型
output (元组)
示例
>>> def exp_reducer(x): ... return x.exp().sum(dim=1) >>> inputs = torch.rand(4, 4) >>> v = torch.ones(4) >>> vjp(exp_reducer, inputs, v) (tensor([5.7817, 7.2458, 5.7830, 6.7782]), tensor([[1.4458, 1.3962, 1.3042, 1.6354], [2.1288, 1.0652, 1.5483, 2.5035], [2.2046, 1.1292, 1.1432, 1.3059], [1.3225, 1.6652, 1.7753, 2.0152]]))
>>> vjp(exp_reducer, inputs, v, create_graph=True) (tensor([5.7817, 7.2458, 5.7830, 6.7782], grad_fn=<SumBackward1>), tensor([[1.4458, 1.3962, 1.3042, 1.6354], [2.1288, 1.0652, 1.5483, 2.5035], [2.2046, 1.1292, 1.1432, 1.3059], [1.3225, 1.6652, 1.7753, 2.0152]], grad_fn=<MulBackward0>))
>>> def adder(x, y): ... return 2 * x + 3 * y >>> inputs = (torch.rand(2), torch.rand(2)) >>> v = torch.ones(2) >>> vjp(adder, inputs, v) (tensor([2.4225, 2.3340]), (tensor([2., 2.]), tensor([3., 3.])))