torch.autograd.functional.hvp¶
- torch.autograd.functional.hvp(func, inputs, v=None, create_graph=False, strict=False)[源代码]¶
计算标量函数的海森矩阵与指定点处的向量
v
的点积。- 参数
func (函数) – 一个 Python 函数,它接受张量输入并返回一个包含单个元素的张量。
v (元组 的 张量 或 张量) – 计算 Hessian 向量积的向量。必须与
func
的输入大小相同。当func
的输入包含单个元素且(如果未提供)时,此参数是可选的,并将被设置为包含单个1
的张量。create_graph (布尔值,可选) – 如果
True
,则输出和结果都将以可微的方式计算。请注意,当strict
为False
时,结果不能需要梯度或与输入断开连接。默认为False
。strict (布尔值,可选) – 如果
True
,当我们检测到存在一个输入,使得所有输出都独立于它时,将引发错误。如果False
,我们将返回一个全零张量作为所述输入的 hvp,这是预期的数学值。默认为False
。
- 返回值
- 包含以下内容的元组:
func_output (张量元组或张量):
func(inputs)
的输出hvp (张量元组或张量):点积的结果,形状与输入相同。
- 返回类型
output (元组)
示例
>>> def pow_reducer(x): ... return x.pow(3).sum() >>> inputs = torch.rand(2, 2) >>> v = torch.ones(2, 2) >>> hvp(pow_reducer, inputs, v) (tensor(0.1448), tensor([[2.0239, 1.6456], [2.4988, 1.4310]]))
>>> hvp(pow_reducer, inputs, v, create_graph=True) (tensor(0.1448, grad_fn=<SumBackward0>), tensor([[2.0239, 1.6456], [2.4988, 1.4310]], grad_fn=<MulBackward0>))
>>> def pow_adder_reducer(x, y): ... return (2 * x.pow(2) + 3 * y.pow(2)).sum() >>> inputs = (torch.rand(2), torch.rand(2)) >>> v = (torch.zeros(2), torch.ones(2)) >>> hvp(pow_adder_reducer, inputs, v) (tensor(2.3030), (tensor([0., 0.]), tensor([6., 6.])))
注意
由于反向模式 AD 约束,此函数明显慢于 vhp。如果您的函数是二次连续可微的,则 hvp = vhp.t()。因此,如果您知道您的函数满足此条件,则应使用 vhp,它在当前实现中速度快得多。