batch_to_device¶
- torchtune.utils.batch_to_device(batch: dict, device: device) None [source]¶
该函数接收一个包含张量的字典(或嵌套字典),并将它们全部设置为相同的设备。此实用程序旨在用于将数据批次移动到设备,更新是就地进行的。
- 参数:
batch (dict) – 张量的字典或更多嵌套的张量字典。
device (torch.device) – 将张量移动到的 torch 设备
- 引发:
AttributeError – 如果批次字典包含除张量以外的任何内容