torch.xpu.memory_stats¶
- torch.xpu.memory_stats(device=None)[源代码]¶
返回给定设备的 XPU 内存分配器统计信息字典。
此函数的返回值是一个统计信息字典,每个统计信息都是一个非负整数。
核心统计信息
"allocated_bytes.{all,large_pool,small_pool}.{current,peak,allocated,freed}"
:已分配内存量。"reserved_bytes.{all,large_pool,small_pool}.{current,peak,allocated,freed}"
:已预留内存量。"active_bytes.{all,large_pool,small_pool}.{current,peak,allocated,freed}"
:活动内存量。"requested_bytes.{all,large_pool,small_pool}.{current,peak,allocated,freed}"
:客户端代码请求的内存,将其与 allocated_bytes 进行比较,以检查分配舍入是否增加了过多的开销。
对于这些核心统计信息,值按以下方式细分。
池类型
all
:所有内存池的组合统计信息。large_pool
:大型分配池的统计信息(对于大小 >= 1MB 的分配)。small_pool
:小型分配池的统计信息(对于大小 < 1MB 的分配)。
指标类型
current
:此指标的当前值。peak
:此指标的最大值。allocated
:此指标的历史总增量。freed
:此指标的历史总减量。
- 参数
device (torch.device 或 int 或 str,可选) – 选定的设备。如果
device
为None
(默认值),则返回由current_device()
给出的当前设备的统计信息。- 返回类型