torch.xpu.memory_allocated

torch.xpu.memory_allocated(device=None)

返回给定设备上 tensors 当前占用的 GPU 内存量，以字节为单位。

参数

device (torch.device 或 int 或 str, 可选) – 选择的设备。如果 device 为 None (默认)，则返回当前设备的统计信息，由 current_device() 给出。

返回类型

int

注意

这可能小于 xpu-smi 中显示的量，因为缓存分配器可能会保留一些未使用的内存，并且需要在 GPU 上创建一些上下文。