torch.xpu.memory_stats¶
- torch.xpu.memory_stats(device=None)[source][source]¶
返回给定设备的 XPU 内存分配器统计信息的字典。
此函数的返回值是一个统计信息字典，其中每个统计信息都是一个非负整数。
核心统计信息
"allocated_bytes.{all,large_pool,small_pool}.{current,peak,allocated,freed}"：已分配的内存量。"reserved_bytes.{all,large_pool,small_pool}.{current,peak,allocated,freed}"：保留的内存量。"active_bytes.{all,large_pool,small_pool}.{current,peak,allocated,freed}"：活动的内存量。"requested_bytes.{all,large_pool,small_pool}.{current,peak,allocated,freed}"：客户端代码请求的内存，将其与allocated_bytes进行比较，以检查分配舍入是否增加了太多开销。
这些核心统计信息的数值细分如下。
池类型
all：所有内存池的合并统计信息。large_pool：大型分配池的统计信息（用于大小 >= 1MB 的分配）。small_pool：小型分配池的统计信息（用于大小 < 1MB 的分配）。
指标类型
current：此指标的当前值。peak：此指标的最大值。allocated：此指标的历史总增加量。freed：此指标的历史总减少量。
- 参数
device (torch.device 或 int 或 str，可选) – 选择的设备。如果
device为None（默认），则返回由current_device()给定的当前设备的统计信息。- 返回类型
