left_pad_sequence

torchtune.data.left_pad_sequence(sequences: List[Tensor], batch_first: bool = False, padding_value: float = 0) → Tensor

此函数与 torch.nn.utils.rnn.pad_sequence() 完全相同，但它是从左侧填充可变长度 Tensor 列表到最长序列的长度。

注意

此函数返回大小为 T x B x * 或 B x T x * 的 Tensor，其中 T 是最长序列的长度。此函数假定序列中所有 Tensor 的尾部维度和类型均相同。

参数:

• sequences (List[torch.Tensor]) – 可变长度序列的列表。

• batch_first (bool) – 如果为 True，则输出格式为 B x T x *，否则为 T x B x *。默认为 False。

• padding_value (float) – 填充元素的值。默认值：0。

返回:

如果 batch_first 为 False，则返回大小为 T x B x * 的 Tensor。否则返回大小为 B x T x * 的 Tensor

示例

>>> a = torch.tensor([1, 2, 3])
>>> b = torch.tensor([4, 5, 6, 7])
>>> c = torch.tensor([8, 9, 10, 11, 12])
>>> left_pad_sequence([a, b, c], batch_first=True, padding_value=0)
tensor([[ 0,  0,  1,  2,  3],
        [ 0,  4,  5,  6,  7],
        [ 8,  9, 10, 11, 12]])