PyTorch 文档¶
PyTorch 是一个针对深度学习的优化张量库，它使用 GPU 和 CPU。
本文档中描述的功能按发布状态分类
稳定版：这些功能将长期维护，通常不会存在重大性能限制或文档缺失。我们还希望保持向后兼容性（尽管可能会出现重大更改，我们会提前一个版本发布通知）。
Beta 版：这些功能被标记为 Beta 版，因为 API 可能会根据用户反馈而改变，因为性能需要改进，或者因为跨运算符的覆盖率尚未完成。对于 Beta 版功能，我们承诺将该功能提升至稳定版分类。但是，我们不承诺向后兼容性。
原型版：这些功能通常不可用作二进制分发版（如 PyPI 或 Conda）的一部分，但有时会在运行时标志后面提供，并且处于早期阶段，用于反馈和测试。
开发者笔记
语言绑定
Python API
- torch
- torch.nn
- torch.nn.functional
- torch.Tensor
- 张量属性
- 张量视图
- torch.amp
- torch.autograd
- torch.library
- torch.cpu
- torch.cuda
- StreamContext
- torch.cuda.can_device_access_peer
- torch.cuda.current_blas_handle
- torch.cuda.current_device
- torch.cuda.current_stream
- torch.cuda.cudart
- torch.cuda.default_stream
- device
- torch.cuda.device_count
- device_of
- torch.cuda.get_arch_list
- torch.cuda.get_device_capability
- torch.cuda.get_device_name
- torch.cuda.get_device_properties
- torch.cuda.get_gencode_flags
- torch.cuda.get_sync_debug_mode
- torch.cuda.init
- torch.cuda.ipc_collect
- torch.cuda.is_available
- torch.cuda.is_initialized
- torch.cuda.memory_usage
- torch.cuda.set_device
- torch.cuda.set_stream
- torch.cuda.set_sync_debug_mode
- torch.cuda.stream
- torch.cuda.synchronize
- torch.cuda.utilization
- torch.cuda.temperature
- torch.cuda.power_draw
- torch.cuda.clock_rate
- torch.cuda.OutOfMemoryError
- 随机数生成器
- 通信集体
- 流和事件
- 图形（beta 版）
- 内存管理
- NVIDIA 工具扩展（NVTX）
- Jiterator（beta 版）
- TunableOp
- 流清理器（原型版）
- 了解 CUDA 内存使用情况
- 生成快照
- 使用可视化工具
- 快照 API 参考
- torch.mps
- torch.mps.device_count
- torch.mps.synchronize
- torch.mps.get_rng_state
- torch.mps.set_rng_state
- torch.mps.manual_seed
- torch.mps.seed
- torch.mps.empty_cache
- torch.mps.set_per_process_memory_fraction
- torch.mps.current_allocated_memory
- torch.mps.driver_allocated_memory
- torch.mps.recommended_max_memory
- MPS 探查器
- MPS 事件
- torch.xpu
- StreamContext
- torch.xpu.current_device
- torch.xpu.current_stream
- device
- torch.xpu.device_count
- device_of
- torch.xpu.get_device_capability
- torch.xpu.get_device_name
- torch.xpu.get_device_properties
- torch.xpu.init
- torch.xpu.is_available
- torch.xpu.is_initialized
- torch.xpu.set_device
- torch.xpu.set_stream
- torch.xpu.stream
- torch.xpu.synchronize
- 随机数生成器
- 流和事件
- 内存管理
- torch.mtia
- StreamContext
- torch.mtia.current_device
- torch.mtia.current_stream
- torch.mtia.default_stream
- torch.mtia.device_count
- torch.mtia.init
- torch.mtia.is_available
- torch.mtia.is_initialized
- torch.mtia.memory_stats
- torch.mtia.set_device
- torch.mtia.set_stream
- torch.mtia.stream
- torch.mtia.synchronize
- device
- torch.mtia.set_rng_state
- torch.mtia.get_rng_state
- torch.mtia.DeferredMtiaCallError
- 流和事件
- 元设备
- torch.backends
- torch.export
- torch.distributed
- torch.distributed.tensor
- torch.distributed.algorithms.join
- torch.distributed.elastic
- torch.distributed.fsdp
- torch.distributed.tensor.parallel
- torch.distributed.optim
- torch.distributed.pipelining
- torch.distributed.checkpoint
save()async_save()save_state_dict()load()load_state_dict()AsyncStagerBlockingAsyncStagerStatefulStorageReaderStorageWriterLoadPlannerLoadPlanReadItemSavePlannerSavePlanWriteItemFileSystemReaderFileSystemWriterDefaultSavePlannerDefaultLoadPlannerget_state_dict()get_model_state_dict()get_optimizer_state_dict()set_state_dict()set_model_state_dict()set_optimizer_state_dict()StateDictOptionsdcp_to_torch_save()torch_save_to_dcp()BroadcastingTorchSaveReaderDynamicMetaLoadPlanner
- torch.distributions
- torch.compiler
- torch.fft
- torch.func
- torch.futures
- torch.fx
- torch.fx.experimental
- torch.hub
- torch.jit
- torch.linalg
- torch.monitor
- torch.signal
- torch.special
- torch.overrides
- torch.package
- torch.profiler
- torch.nn.init
- torch.nn.attention
- torch.onnx
- torch.optim
- 复数
- DDP 通信钩子
- 量化
- 分布式 RPC 框架
- torch.random
- torch.masked
- torch.nested
- torch.Size
- torch.sparse
- torch.Storage
- torch.testing
- torch.utils
- torch.utils.benchmark
- torch.utils.bottleneck
- torch.utils.checkpoint
- torch.utils.cpp_extension
- torch.utils.data
- torch.utils.deterministic
- torch.utils.jit
- torch.utils.dlpack
- torch.utils.mobile_optimizer
- torch.utils.model_zoo
- torch.utils.tensorboard
- torch.utils.module_tracker
- 类型信息
- 命名张量
- 命名张量运算符覆盖率
- torch.__config__
- torch.__future__
- torch._logging
- Torch 环境变量
