MemPool

class torch.cuda.MemPool(*args, **kwargs)

MemPool 表示缓存分配器中的一个内存池。目前，它只是 CUDACachingAllocator 中维护的内存池对象的 ID。

参数

allocator (torch._C._cuda_CUDAAllocator, 可选) – 一个 torch._C._cuda_CUDAAllocator 对象，可用于定义内存如何在池中分配。如果 allocator 为 None（默认），内存分配将遵循 CUDACachingAllocator 的默认/当前配置。

property allocator: Optional[_cuda_CUDAAllocator]

返回此 MemPool 路由分配到的分配器。

property id: tuple[int, int]

以两个 int 组成的元组形式返回此池的 ID。

snapshot()

返回所有设备上 CUDA 内存分配器池状态的快照。

解释此函数的输出需要熟悉内存分配器内部细节。

注意

有关 GPU 内存管理的更多详细信息，请参阅内存管理。

use_count()

返回此内存池的引用计数。

返回类型

int