torch.cuda.set_per_process_memory_fraction¶
- torch.cuda.set_per_process_memory_fraction(fraction, device=None)[源代码][源代码]¶
为进程设置内存比例。
该比例用于限制缓存分配器在 CUDA 设备上分配的内存。允许值等于总可见内存乘以比例。如果尝试在一个进程中分配超过允许值，分配器将引发内存不足错误。
- 参数
fraction (float) – 范围：0~1。允许内存等于 total_memory * fraction。
device (torch.device 或 int, 可选) – 选择的设备。如果为
None，则使用默认 CUDA 设备。
注意
通常，总可用空闲内存小于总容量。
