torch.autograd.functional.vhp¶
- torch.autograd.functional.vhp(func, inputs, v=None, create_graph=False, strict=False)[源代码]¶
计算给定标量函数在指定点的向量
v
与海森矩阵的点积。- 参数
func (函数) – 一个 Python 函数,它接受张量输入并返回一个具有单个元素的张量。
v (元组 的 张量 或 张量) – 计算向量海森矩阵积的向量。必须与
func
的输入大小相同。此参数在func
的输入包含单个元素时是可选的,并且(如果未提供)将被设置为包含单个1
的张量。create_graph (布尔值, 可选) – 如果为
True
,则以可微的方式计算输出和结果。注意,当strict
为False
时,结果不能需要梯度或与输入断开连接。默认为False
。strict (布尔值, 可选) – 如果为
True
,当我们检测到存在一个输入,使得所有输出都与其无关时,将引发错误。如果为False
,我们将返回一个零张量作为该输入的 vhp,这是预期的数学值。默认为False
。
- 返回值
- 包含以下内容的元组:
func_output (张量元组或张量):
func(inputs)
的输出vhp (张量元组或张量):与输入形状相同的点积结果。
- 返回类型
output (元组)
示例
>>> def pow_reducer(x): ... return x.pow(3).sum() >>> inputs = torch.rand(2, 2) >>> v = torch.ones(2, 2) >>> vhp(pow_reducer, inputs, v) (tensor(0.5591), tensor([[1.0689, 1.2431], [3.0989, 4.4456]])) >>> vhp(pow_reducer, inputs, v, create_graph=True) (tensor(0.5591, grad_fn=<SumBackward0>), tensor([[1.0689, 1.2431], [3.0989, 4.4456]], grad_fn=<MulBackward0>)) >>> def pow_adder_reducer(x, y): ... return (2 * x.pow(2) + 3 * y.pow(2)).sum() >>> inputs = (torch.rand(2), torch.rand(2)) >>> v = (torch.zeros(2), torch.ones(2)) >>> vhp(pow_adder_reducer, inputs, v) (tensor(4.8053), (tensor([0., 0.]), tensor([6., 6.])))