快捷方式

torch.xpu.memory_stats

torch.xpu.memory_stats(device=None)[源代码]

返回给定设备的 XPU 内存分配器统计信息字典。

此函数的返回值是一个统计信息字典,每个统计信息都是一个非负整数。

核心统计信息

  • "allocated_bytes.{all,large_pool,small_pool}.{current,peak,allocated,freed}":已分配内存量。

  • "reserved_bytes.{all,large_pool,small_pool}.{current,peak,allocated,freed}":已预留内存量。

  • "active_bytes.{all,large_pool,small_pool}.{current,peak,allocated,freed}":活动内存量。

  • "requested_bytes.{all,large_pool,small_pool}.{current,peak,allocated,freed}":客户端代码请求的内存,将其与 allocated_bytes 进行比较,以检查分配舍入是否增加了过多的开销。

对于这些核心统计信息,值按以下方式细分。

池类型

  • all:所有内存池的组合统计信息。

  • large_pool:大型分配池的统计信息(对于大小 >= 1MB 的分配)。

  • small_pool:小型分配池的统计信息(对于大小 < 1MB 的分配)。

指标类型

  • current:此指标的当前值。

  • peak:此指标的最大值。

  • allocated:此指标的历史总增量。

  • freed:此指标的历史总减量。

参数

device (torch.deviceintstr可选) – 选定的设备。如果 deviceNone(默认值),则返回由 current_device() 给出的当前设备的统计信息。

返回类型

Dict[str, Any]

文档

访问 PyTorch 的全面开发者文档

查看文档

教程

获取针对初学者和高级开发人员的深入教程

查看教程

资源

查找开发资源并获得问题的解答

查看资源