快捷方式

torch.mps

此包提供了在 Python 中访问 MPS (Metal Performance Shaders) 后端的接口。Metal 是 Apple 用于编程 Metal GPU(图形处理器)的 API。使用 MPS 意味着可以通过在 Metal GPU 上运行工作负载来提高性能。有关更多详细信息,请参阅 https://developer.apple.com/documentation/metalperformanceshaders

device_count

返回可用的 MPS 设备数量。

synchronize

等待 MPS 设备上所有流中的所有内核完成。

get_rng_state

以 ByteTensor 的形式返回随机数生成器状态。

set_rng_state

设置随机数生成器状态。

manual_seed

设置用于生成随机数的种子。

seed

将用于生成随机数的种子设置为一个随机数。

empty_cache

释放缓存分配器当前持有的所有未占用缓存内存,以便这些内存可用于其他 GPU 应用程序。

set_per_process_memory_fraction

设置内存比例,限制进程在 MPS 设备上的内存分配。

current_allocated_memory

返回张量当前占用的 GPU 内存大小(字节)。

driver_allocated_memory

返回 Metal 驱动为进程分配的总 GPU 内存大小(字节)。

recommended_max_memory

返回建议的 GPU 内存最大工作集大小(字节)。

compile_shader

从源代码编译计算着色器,并允许在方便的 Python 运行时中调用其中定义的内核。示例。

MPS 分析器

profiler.start

从 MPS 后端启动 OS Signpost 跟踪。

profiler.stop

停止从 MPS 后端生成 OS Signpost 跟踪。

profiler.profile

用于从 MPS 后端启用 OS Signpost 跟踪生成的上下文管理器。

profiler.is_capturing_metal

检查 Metal 捕获是否正在进行中

profiler.is_metal_capture_enabled

检查 `metal_capture` 上下文管理器是否可用。要启用 Metal 捕获,请设置 MTL_CAPTURE_ENABLED 环境变量

profiler.metal_capture

启用将 Metal 调用捕获到 gputrace 中的上下文管理器

MPS 事件

event.Event

MPS 事件的包装器。

文档

查阅 PyTorch 全面的开发者文档

查看文档

教程

获取针对初学者和高级开发者的深度教程

查看教程

资源

查找开发资源并获得问题解答

查看资源