torch.cuda.memory_allocated¶
- torch.cuda.memory_allocated(device=None)[源][源]¶
返回给定设备上张量当前占用的 GPU 内存量(以字节为单位)。
- 参数
device (torch.device 或 int, 可选) – 选择的设备。如果
device
为None
(默认),则返回由current_device()
给出的当前设备的统计信息。- 返回类型
注意
这可能少于 nvidia-smi 中显示的量,因为部分未使用的内存可能由缓存分配器持有,并且需要在 GPU 上创建一些上下文。有关 GPU 内存管理的更多详细信息,请参阅内存管理。