torch.cuda.set_per_process_memory_fraction¶
- torch.cuda.set_per_process_memory_fraction(fraction, device=None)[源代码]¶
设置进程的内存比例。
该比例用于限制 CUDA 设备上缓存分配器的分配内存。允许的值等于总可见内存乘以比例。如果尝试在进程中分配超过允许值的内存,分配器将引发内存不足错误。
- 参数
fraction (float) – 范围:0~1。允许的内存等于 total_memory * fraction。
device (torch.device 或 int, 可选) – 选择的设备。如果为
None
,则使用默认的 CUDA 设备。
注意
通常,总可用空闲内存小于总容量。