torch.xpu.memory_stats

torch.xpu.memory_stats(device=None)

返回给定设备的 XPU 内存分配器统计信息的字典。

此函数的返回值是一个统计信息字典，每个统计信息都是一个非负整数。

核心统计信息

• "allocated_bytes.{all,large_pool,small_pool}.{current,peak,allocated,freed}": 已分配内存量。

• "reserved_bytes.{all,large_pool,small_pool}.{current,peak,allocated,freed}": 已保留内存量。

• "active_bytes.{all,large_pool,small_pool}.{current,peak,allocated,freed}": 活跃内存量。

• "requested_bytes.{all,large_pool,small_pool}.{current,peak,allocated,freed}": 客户端代码请求的内存，将此值与 allocated_bytes 进行比较，以检查分配舍入是否增加了过多的开销。

对于这些核心统计信息，值按如下方式分解。

池类型

• all: 所有内存池的组合统计信息。

• large_pool: 大型分配池的统计信息（用于大小 >= 1MB 的分配）。

• small_pool: 小型分配池的统计信息（用于大小 < 1MB 的分配）。

指标类型

• current: 此指标的当前值。

• peak: 此指标的最大值。

• allocated: 此指标的历史总增加量。

• freed: 此指标的历史总减少量。

参数

device (torch.device 或 int 或 str, 可选) – 选定的设备。如果 device 为 None（默认值），则返回当前设备的统计信息，由 current_device() 给出。

返回类型

Dict[str, Any]