MPS 环境变量¶
PyTorch 环境变量
变量 |
描述 |
---|---|
|
如果设置为 |
|
将日志选项位掩码设置为 |
|
将配置文件和标志位掩码设置为 |
|
MPS 分配器的高水位比。默认设置为 1.7。 |
|
MPS 分配器的低水位比。默认情况下,如果内存是统一内存,则设置为 1.4;如果内存是独立内存,则设置为 1.0。 |
|
如果设置为 |
|
如果设置为 |
|
如果设置为 |
注意
高水位比 是总允许分配的硬限制
0.0 : 禁用高水位限制(如果发生系统范围的 OOM,可能会导致系统故障)
1.0 : 建议的最大分配大小(即 device.recommendedMaxWorkingSetSize)
>1.0: 允许超出 device.recommendedMaxWorkingSetSize 的限制
例如,值 0.95 表示我们最多分配建议最大分配大小的 95%;超出此范围,分配将因 OOM 错误而失败。
低水位比 是一个软限制,尝试通过垃圾回收或更频繁地提交命令缓冲区(也称为自适应提交)将内存分配限制在较低水位水平。值介于 0 到 m_high_watermark_ratio 之间(设置为 0.0 会禁用自适应提交和垃圾回收),例如,值 0.9 表示我们“尝试”将分配限制在建议最大分配大小的 90%。