PyTorch 食谱¶

食谱是有关如何使用特定 PyTorch 功能的简洁、可操作的示例，不同于我们的完整教程。

定义神经网络

了解如何使用 PyTorch 的 torch.nn 包创建和定义用于 MNIST 数据集的神经网络。

基础

什么是 PyTorch 中的 state_dict

了解如何在 PyTorch 中保存或加载模型时使用 state_dict 对象和 Python 字典。

基础

在 PyTorch 中保存和加载用于推理的模型

了解在 PyTorch 中保存和加载用于推理的模型的两种方法 - 通过 state_dict 和通过整个模型。

基础

在 PyTorch 中保存和加载一般检查点

保存和加载用于推理或恢复训练的一般检查点模型有助于从上次中断的地方继续。在本食谱中，探索如何保存和加载多个检查点。

基础

在 PyTorch 中使用一个文件保存和加载多个模型

在本食谱中，了解如何保存和加载多个模型有助于重用以前训练过的模型。

基础

使用来自不同模型的参数在 PyTorch 中进行模型热启动

了解如何通过部分加载模型或加载部分模型来热启动训练过程，这可以帮助您的模型比从头开始训练收敛得快得多。

基础

在 PyTorch 中保存和加载跨设备的模型

了解如何使用 PyTorch 在设备（CPU 和 GPU）之间保存和加载模型，这相对简单。

基础

在 PyTorch 中将梯度清零

了解何时应该将梯度清零，以及这样做如何帮助提高模型的准确性。

基础

PyTorch 基准测试

了解如何使用 PyTorch 的基准测试模块来衡量和比较代码的性能

基础

PyTorch 基准测试（快速入门）

了解如何测量代码片段的运行时间和收集指令。

基础

PyTorch 分析器

了解如何使用 PyTorch 的分析器来衡量算子的时间和内存消耗

基础

支持 Instrumentation and Tracing Technology API (ITT API) 的 PyTorch 分析器

了解如何使用支持 Instrumentation and Tracing Technology API (ITT API) 的 PyTorch 分析器在 Intel® VTune™ Profiler GUI 中可视化算子标签

基础

Torch Compile IPEX 后端

了解如何使用 torch.compile IPEX 后端

基础

在 PyTorch 中推理形状

了解如何使用元设备来推理模型中的形状。

基础

从检查点加载 nn.Module 的技巧

了解从检查点加载 nn.Module 的技巧。

基础

（beta）使用 TORCH_LOGS 观察 torch.compile

了解如何使用 torch 日志记录 API 来观察编译过程。

基础

nn.Module 中用于加载 state_dict 和张量子类的扩展点

nn.Module 中的新扩展点。

基础

面向 Python 运行时的 torch.export AOTInductor 教程

了解如何使用 AOTInductor 面向 Python 运行时的端到端示例。

基础

使用 Captum 进行模型可解释性

了解如何使用 Captum 将图像分类器的预测归因于其相应的图像特征，并可视化归因结果。

可解释性，Captum

如何在 PyTorch 中使用 TensorBoard

了解 TensorBoard 与 PyTorch 的基本用法，以及如何在 TensorBoard UI 中可视化数据

可视化，TensorBoard

动态量化

将动态量化应用于简单的 LSTM 模型。

量化，文本，模型优化

用于部署的 TorchScript

了解如何以 TorchScript 格式导出训练后的模型，以及如何在 C++ 中加载 TorchScript 模型并进行推理。

TorchScript

使用 Flask 部署

了解如何使用 Flask（一个轻量级 Web 服务器）从训练后的 PyTorch 模型快速设置 Web API。

生产，TorchScript

PyTorch 移动性能秘诀

在移动设备（Android 和 iOS）上使用 PyTorch 的性能优化秘诀列表。

移动，模型优化

创建使用 PyTorch Android 预构建库的 Android 原生应用程序

了解如何从头开始创建 Android 应用程序，该应用程序使用 LibTorch C++ API 并使用带有自定义 C++ 算子的 TorchScript 模型。

移动

融合模块秘诀

了解如何将 PyTorch 模块列表融合成单个模块，以在量化之前减小模型大小。

移动

面向移动设备的量化秘诀

了解如何在不牺牲太多准确性的情况下减小模型大小并使其运行更快。

移动，量化

面向移动设备的脚本编写和优化

了解如何将模型转换为 TorchScipt 并（可选）针对移动应用程序对其进行优化。

移动

面向 iOS 的模型准备秘诀

了解如何在 iOS 项目中添加模型并使用 PyTorch pod 面向 iOS。

移动

面向 Android 的模型准备秘诀

了解如何在 Android 项目中添加模型并使用 PyTorch 库面向 Android。

移动

Android 和 iOS 中的移动解释器工作流

了解如何在 iOS 和 Andriod 设备上使用移动解释器。

移动

分析基于 PyTorch RPC 的工作负载

如何使用 PyTorch 分析器分析基于 RPC 的工作负载。

生产

自动混合精度

使用 torch.cuda.amp 在 NVIDIA GPU 上减少运行时间并节省内存。

模型优化

性能调优指南

实现最佳性能的技巧。

模型优化

使用 run_cpu 脚本优化 Intel® Xeon® 上的 CPU 性能

如何在 Intel® Xeon CPU 上使用 run_cpu 脚本获得最佳运行时配置。

模型优化

在 AWS Graviton 处理器上调优 PyTorch 推理性能

在 AWS Graviton CPU 上实现最佳推理性能的技巧

模型优化

利用 Intel® 高级矩阵扩展

了解如何利用 Intel® 高级矩阵扩展。

模型优化

（beta）使用 torch.compile 编译优化器

使用 torch.compile 加速优化器

模型优化

（beta）使用 LR 调度器运行编译后的优化器

使用 LRScheduler 和 torch.compiled 优化器加速训练

模型优化

在 ``torch.compile`` 中使用用户定义的 Triton 内核

了解如何在 ``torch.compile`` 中使用用户定义的内核

模型优化

``torch.compile`` 中的编译时缓存

了解如何在 ``torch.compile`` 中配置编译时缓存

模型优化

使用区域编译减少 torch.compile 冷启动编译时间

了解如何使用区域编译来控制冷启动编译时间

模型优化

面向 PyTorch* 的 Intel® 扩展

面向 PyTorch* 的 Intel® 扩展简介

模型优化

面向 PyTorch 的 Intel® 神经压缩器

使用 Intel® 神经压缩器简化面向 PyTorch 的量化。

量化，模型优化

DeviceMesh 入门

了解如何使用 DeviceMesh

分布式训练

使用 ZeroRedundancyOptimizer 分片优化器状态

如何使用 ZeroRedundancyOptimizer 来减少内存消耗。

分布式训练

使用 TensorPipe RPC 进行直接设备到设备通信

如何使用 RPC 进行直接 GPU 到 GPU 通信。

分布式训练

支持 TorchScript 的分布式优化器

如何为分布式优化器启用 TorchScript 支持。

分布式训练，TorchScript

分布式检查点 (DCP) 入门

了解如何使用分布式检查点包对分布式模型进行检查点。

分布式训练

异步检查点 (DCP)

了解如何使用分布式检查点包对分布式模型进行检查点。

分布式训练

CommDebugMode 入门

了解如何将 CommDebugMode 用于 DTensor

分布式训练

将 PyTorch Stable Diffusion 模型部署为 Vertex AI 端点

了解如何使用 TorchServe 在 Vertex AI 中部署模型

生产

PyTorch 食谱¶

定义神经网络

什么是 PyTorch 中的 state_dict

在 PyTorch 中保存和加载用于推理的模型

在 PyTorch 中保存和加载一般检查点

在 PyTorch 中使用一个文件保存和加载多个模型

使用来自不同模型的参数在 PyTorch 中进行模型热启动

在 PyTorch 中保存和加载跨设备的模型

在 PyTorch 中将梯度清零

PyTorch 基准测试

PyTorch 基准测试（快速入门）

PyTorch 分析器

支持 Instrumentation and Tracing Technology API (ITT API) 的 PyTorch 分析器

Torch Compile IPEX 后端

在 PyTorch 中推理形状

从检查点加载 nn.Module 的技巧

（beta）使用 TORCH_LOGS 观察 torch.compile

nn.Module 中用于加载 state_dict 和张量子类的扩展点

面向 Python 运行时的 torch.export AOTInductor 教程

使用 Captum 进行模型可解释性

如何在 PyTorch 中使用 TensorBoard

动态量化

用于部署的 TorchScript

使用 Flask 部署

PyTorch 移动性能秘诀

创建使用 PyTorch Android 预构建库的 Android 原生应用程序

融合模块秘诀

面向移动设备的量化秘诀

面向移动设备的脚本编写和优化

面向 iOS 的模型准备秘诀

面向 Android 的模型准备秘诀

Android 和 iOS 中的移动解释器工作流

分析基于 PyTorch RPC 的工作负载

自动混合精度

性能调优指南

使用 run_cpu 脚本优化 Intel® Xeon® 上的 CPU 性能

在 AWS Graviton 处理器上调优 PyTorch 推理性能

利用 Intel® 高级矩阵扩展

（beta）使用 torch.compile 编译优化器

（beta）使用 LR 调度器运行编译后的优化器

在 ``torch.compile`` 中使用用户定义的 Triton 内核

``torch.compile`` 中的编译时缓存

使用区域编译减少 torch.compile 冷启动编译时间

面向 PyTorch* 的 Intel® 扩展

面向 PyTorch 的 Intel® 神经压缩器

DeviceMesh 入门

使用 ZeroRedundancyOptimizer 分片优化器状态

使用 TensorPipe RPC 进行直接设备到设备通信

支持 TorchScript 的分布式优化器

分布式检查点 (DCP) 入门

异步检查点 (DCP)

CommDebugMode 入门

将 PyTorch Stable Diffusion 模型部署为 Vertex AI 端点

文档

教程

资源