batch_to_device¶
- torchtune.utils.batch_to_device(batch: dict, device: device) None [source]¶
此函数接收一个张量字典(或嵌套字典),并将所有张量设置到同一设备上。此实用工具旨在用于将批次数据移动到设备,更新是原位的。
- 参数:
batch (dict) – 包含张量或更深层嵌套张量字典的字典。
device (torch.device) – 要将张量移动到的 torch 设备。
- 引发:
ValueError – 如果批次字典中包含
torch.Tensor
以外的任何内容。