torch.mps¶
此包启用了一个接口,用于访问 Python 中的 MPS (Metal Performance Shaders) 后端。Metal 是 Apple 用于编程 Metal GPU(图形处理器单元)的 API。使用 MPS 意味着可以通过在 Metal GPU 上运行工作来提高性能。有关更多详细信息,请参阅 https://developer.apple.com/documentation/metalperformanceshaders。
返回可用的 MPS 设备数量。 |
|
等待 MPS 设备上所有流中的所有内核完成。 |
|
以 ByteTensor 形式返回随机数生成器状态。 |
|
设置随机数生成器状态。 |
|
设置生成随机数的种子。 |
|
将生成随机数的种子设置为一个随机数。 |
|
释放缓存分配器当前持有的所有未占用的缓存内存,以便这些内存可以用于其他 GPU 应用程序。 |
|
设置内存比例,以限制进程在 MPS 设备上的内存分配。 |
|
返回张量当前占用的 GPU 内存(以字节为单位)。 |
|
返回 Metal 驱动程序为进程分配的总 GPU 内存(以字节为单位)。 |
|
返回建议的最大工作集大小,用于 GPU 内存(以字节为单位)。 |
MPS Profiler¶
从 MPS 后端启动 OS Signpost 跟踪。 |
|
停止从 MPS 后端生成 OS Signpost 跟踪。 |
|
上下文管理器,用于启用从 MPS 后端生成 OS Signpost 跟踪。 |
MPS Event¶
MPS 事件的包装器。 |