torch.mtia

MTIA 后端在主代码树之外实现，这里只定义了接口。

此包提供了在 Python 中访问 MTIA 后端的接口

StreamContext	用于选择给定流的上下文管理器。
current_device	返回当前选定设备的索引。
current_stream	返回给定设备的当前选定 Stream。
default_stream	返回给定设备的默认 Stream。
device_count	返回可用 MTIA 设备的数量。
init
is_available	如果 MTIA 设备可用，则返回 true
is_initialized	返回 PyTorch 的 MTIA 状态是否已初始化。
memory_stats	返回给定设备的 MTIA 内存分配器统计信息的字典。
get_device_capability	以 (主版本, 次版本) 元组形式返回给定设备的能力。
empty_cache	清空 MTIA 设备缓存。
record_memory_history	在 MTIA 分配器上启用/禁用内存性能分析器
snapshot	返回 MTIA 内存分配器历史记录的字典
set_device	设置当前设备。
set_stream	设置当前流。这是一个用于设置流的包装 API。
stream	包装用于选择给定流的 Context-manager StreamContext。
synchronize	等待 MTIA 设备上所有流中的所有作业完成。
device	改变选定设备的上下文管理器。
set_rng_state	设置随机数生成器状态。
get_rng_state	以 ByteTensor 形式返回随机数生成器状态。
DeferredMtiaCallError

流和事件

Event	查询并记录 Stream 状态，以识别或控制跨 Stream 的依赖关系并测量时间。
Stream	一个按先进先出 (FIFO) 顺序异步执行相应任务的有序队列。