torch.xpu.memory_allocated

torch.xpu.memory_allocated(device=None)

返回给定设备上张量当前占用的 GPU 内存（以字节为单位）。

参数

device (torch.device 或 int 或 str，可选) – 选定的设备。如果 device 为 None（默认值），则返回由 current_device() 给出的当前设备的统计信息。

返回类型

int

注意

这可能小于 xpu-smi 中显示的数量，因为一些未使用的内存可能由缓存分配器持有，并且一些上下文需要在 GPU 上创建。