快捷方式

batch_to_device

torchtune.utils.batch_to_device(batch: dict, device: device) None[source]

此函数接收一个张量字典(或嵌套字典),并将所有张量设置到同一设备上。此实用工具旨在用于将批次数据移动到设备,更新是原位的。

参数:
  • batch (dict) – 包含张量或更深层嵌套张量字典的字典。

  • device (torch.device) – 要将张量移动到的 torch 设备。

引发:

ValueError – 如果批次字典中包含 torch.Tensor 以外的任何内容。

文档

查阅 PyTorch 的全面开发者文档

查看文档

教程

获取面向初学者和高级开发者的深入教程

查看教程

资源

查找开发资源并获得问题解答

查看资源