MemPool

类 torch.cuda.MemPool(*args, **kwargs)

MemPool 表示缓存分配器中的内存池。目前，它只是 CUDACachingAllocator 中维护的池对象的 ID。

参数

allocator (torch._C._cuda_CUDAAllocator, 可选) – 一个 torch._C._cuda_CUDAAllocator 对象，可用于定义池中内存的分配方式。如果 allocator 为 None （默认），则内存分配遵循 CUDACachingAllocator 的默认/当前配置。

属性 allocator: Optional[_cuda_CUDAAllocator]

返回此 MemPool 将分配路由到的分配器。

属性 id: Tuple[int, int]

以包含两个整数的元组形式返回此池的 ID。

snapshot()

返回跨所有设备的 CUDA 内存分配器池状态的快照。

解释此函数的输出需要熟悉内存分配器的内部结构。

注意

有关 GPU 内存管理的更多详细信息，请参阅内存管理。

use_count()

返回此池的引用计数。

返回类型

int