torch.cuda.mem_get_info

torch.cuda.mem_get_info(device=None)

使用 cudaMemGetInfo 返回给定设备的全局可用和总 GPU 内存。

参数

device (torch.device 或 int 或 str，可选) – 选定的设备。如果 device 为 None（默认值）或未指定设备索引，则返回当前设备的统计信息，由 current_device() 给出。

返回类型

Tuple[int, int]

注意

有关 GPU 内存管理的更多详细信息，请参见 内存管理。