torch.cuda.set_per_process_memory_fraction¶
- torch.cuda.set_per_process_memory_fraction(fraction, device=None)[source][source]¶
设置进程的内存比例。
此比例用于限制缓存分配器在 CUDA 设备上分配的内存。允许的值等于总可见内存乘以该比例。如果在进程中尝试分配超过允许值，分配器将引发内存不足错误。
- 参数
fraction (float) – 范围：0~1。允许的内存等于 total_memory * fraction。
device (torch.device 或 int, 可选) – 所选设备。如果为
None，则使用默认 CUDA 设备。
注意
通常，总可用空闲内存小于总容量。
