torch.cuda.mem_get_info

torch.cuda.mem_get_info(device=None)

使用 cudaMemGetInfo 返回指定设备的全局可用和总 GPU 内存。

参数

device (torch.device 或 int 或 str, 可选) – 所选设备。如果 device 为 None (默认) 或未指定设备索引，则返回由 current_device() 给出的当前设备的统计信息。

返回类型

tuple[int, int]

注意

有关 GPU 内存管理的更多详细信息，请参阅内存管理。