PyTorch 食谱¶

食谱是关于如何使用特定 PyTorch 功能的小巧、可操作的示例，与我们的完整教程不同。

定义神经网络

了解如何使用 PyTorch 的 torch.nn 包来创建和定义用于 MNIST 数据集的神经网络。

基础知识

PyTorch 中的 state_dict 是什么

了解如何在 PyTorch 中保存或加载模型时使用 state_dict 对象和 Python 字典。

基础知识

在 PyTorch 中保存和加载模型以进行推理

了解在 PyTorch 中保存和加载模型以进行推理的两种方法 - 通过 state_dict 和通过整个模型。

基础知识

在 PyTorch 中保存和加载通用检查点

保存和加载用于推理或恢复训练的通用检查点模型对于从上次中断的地方继续学习很有帮助。在本食谱中，探索如何保存和加载多个检查点。

基础知识

使用 PyTorch 在一个文件中保存和加载多个模型

在本食谱中，了解保存和加载多个模型如何有助于重用您之前训练过的模型。

基础知识

在 PyTorch 中使用来自不同模型的参数热启动模型

了解如何通过部分加载模型或加载部分模型来热启动训练过程可以帮助您的模型比从头开始训练更快地收敛。

基础知识

在 PyTorch 中跨设备保存和加载模型

了解如何使用 PyTorch 相对简单地跨设备（CPU 和 GPU）保存和加载模型。

基础知识

在 PyTorch 中清零梯度

了解何时应清零梯度以及这样做如何帮助提高模型的准确性。

基础知识

PyTorch 基准测试

了解如何使用 PyTorch 的基准测试模块来测量和比较代码的性能

基础知识

PyTorch 基准测试（快速入门）

了解如何测量代码段运行时间和收集指令。

基础知识

PyTorch 分析器

了解如何使用 PyTorch 的分析器来测量运算符的时间和内存消耗

基础知识

支持 Instrumentation and Tracing Technology API (ITT API) 的 PyTorch 分析器

了解如何将支持 Instrumentation and Tracing Technology API (ITT API) 的 PyTorch 分析器与 Intel® VTune™ Profiler GUI 结合使用，以可视化运算符标签

基础知识

Torch Compile IPEX 后端

了解如何使用 torch.compile IPEX 后端

基础知识

使用 ``torch.compiler.set_stance`` 进行动态编译控制

了解如何使用 torch.compiler.set_stance

编译器

在 PyTorch 中推理形状

了解如何使用元设备在模型中推理形状。

基础知识

从检查点加载 nn.Module 的技巧

了解从检查点加载 nn.Module 的技巧。

基础知识

（beta）使用 TORCH_LOGS 观察 torch.compile

了解如何使用 torch 日志记录 API 来观察编译过程。

基础知识

nn.Module 中用于加载 state_dict 和张量子类的扩展点

nn.Module 中的新扩展点。

基础知识

用于 Python 运行时的 torch.export AOTInductor 教程

了解如何将 AOTInductor 用于 python 运行时的端到端示例。

基础知识

torch.export 流的演示、常见挑战以及解决这些挑战的方案

了解如何导出模型以用于流行的用例

编译器,TorchCompile

使用 Captum 进行模型可解释性分析

了解如何使用 Captum 将图像分类器的预测归因于其对应的图像特征，并可视化归因结果。

可解释性分析,Captum

如何在 PyTorch 中使用 TensorBoard

了解 TensorBoard 与 PyTorch 的基本用法，以及如何在 TensorBoard UI 中可视化数据

可视化,TensorBoard

动态量化

将动态量化应用于简单的 LSTM 模型。

量化,文本,模型优化

用于部署的 TorchScript

了解如何以 TorchScript 格式导出训练好的模型，以及如何在 C++ 中加载 TorchScript 模型并进行推理。

TorchScript

使用 Flask 部署

了解如何使用 Flask（一个轻量级 Web 服务器）从您训练好的 PyTorch 模型快速设置 Web API。

生产环境,TorchScript

PyTorch 移动性能食谱

在移动设备（Android 和 iOS）上使用 PyTorch 进行性能优化的食谱列表。

移动设备,模型优化

制作使用 PyTorch Android 预构建库的 Android 原生应用程序

了解如何从头开始制作使用 LibTorch C++ API 并使用带有自定义 C++ 运算符的 TorchScript 模型的 Android 应用程序。

移动设备

融合模块食谱

了解如何将 PyTorch 模块列表融合到单个模块中，以在量化之前减小模型大小。

移动设备

移动设备量化食谱

了解如何在不损失太多准确性的情况下减小模型大小并使其运行更快。

移动设备,量化

为移动设备编写脚本并优化

了解如何将模型转换为 TorchScipt 并（可选）针对移动应用进行优化。

移动设备

iOS 模型准备食谱

了解如何在 iOS 项目中添加模型并使用适用于 iOS 的 PyTorch pod。

移动设备

Android 模型准备食谱

了解如何在 Android 项目中添加模型并使用适用于 Android 的 PyTorch 库。

移动设备

Android 和 iOS 中的移动解释器工作流程

了解如何在 iOS 和 Andriod 设备上使用移动解释器。

移动设备

分析基于 PyTorch RPC 的工作负载

如何使用 PyTorch 分析器来分析基于 RPC 的工作负载。

生产环境

自动混合精度

使用 torch.cuda.amp 来减少 NVIDIA GPU 上的运行时并节省内存。

模型优化

性能调优指南

实现最佳性能的技巧。

模型优化

使用 run_cpu 脚本优化 Intel® Xeon® 上的 CPU 性能

如何在 Intel® Xeon CPU 上使用 run_cpu 脚本进行最佳运行时配置。

模型优化

AWS Graviton 处理器上的 PyTorch 推理性能调优

在 AWS Graviton CPU 上实现最佳推理性能的技巧

模型优化

利用 Intel® Advanced Matrix Extensions

学习利用 Intel® Advanced Matrix Extensions。

模型优化

（beta）使用 torch.compile 编译优化器

使用 torch.compile 加速优化器

模型优化

（beta）使用 LR 调度器运行编译后的优化器

使用 LRScheduler 和 torch.compiled 优化器加速训练

模型优化

将用户定义的 Triton 内核与 ``torch.compile`` 一起使用

了解如何将用户定义的内核与 ``torch.compile`` 一起使用

模型优化

``torch.compile`` 中的编译时间缓存

了解如何在 ``torch.compile`` 中配置编译时间缓存

模型优化

通过区域编译减少 torch.compile 冷启动编译时间

了解如何使用区域编译来控制冷启动编译时间

模型优化

适用于 PyTorch* 的 Intel® 扩展

适用于 PyTorch* 的 Intel® 扩展简介

模型优化

适用于 PyTorch 的 Intel® Neural Compressor

使用 Intel® Neural Compressor 轻松量化 PyTorch。

量化,模型优化

DeviceMesh 入门

了解如何使用 DeviceMesh

分布式训练

使用 ZeroRedundancyOptimizer 分片优化器状态

如何使用 ZeroRedundancyOptimizer 来减少内存消耗。

分布式训练

使用 TensorPipe RPC 进行直接设备到设备通信

如何将 RPC 与直接 GPU 到 GPU 通信结合使用。

分布式训练

支持 TorchScript 的分布式优化器

如何为分布式优化器启用 TorchScript 支持。

分布式训练,TorchScript

分布式检查点 (DCP) 入门

了解如何使用分布式检查点包检查分布式模型。

分布式训练

异步检查点 (DCP)

了解如何使用分布式检查点包检查分布式模型。

分布式训练

CommDebugMode 入门

了解如何将 CommDebugMode 用于 DTensors

分布式训练

将 PyTorch Stable Diffusion 模型部署为 Vertex AI Endpoint

了解如何在 Vertex AI 中使用 TorchServe 部署模型

生产环境

PyTorch 食谱¶

定义神经网络

PyTorch 中的 state_dict 是什么

在 PyTorch 中保存和加载模型以进行推理

在 PyTorch 中保存和加载通用检查点

使用 PyTorch 在一个文件中保存和加载多个模型

在 PyTorch 中使用来自不同模型的参数热启动模型

在 PyTorch 中跨设备保存和加载模型

在 PyTorch 中清零梯度

PyTorch 基准测试

PyTorch 基准测试（快速入门）

PyTorch 分析器

支持 Instrumentation and Tracing Technology API (ITT API) 的 PyTorch 分析器

Torch Compile IPEX 后端

使用 ``torch.compiler.set_stance`` 进行动态编译控制

在 PyTorch 中推理形状

从检查点加载 nn.Module 的技巧

（beta）使用 TORCH_LOGS 观察 torch.compile

nn.Module 中用于加载 state_dict 和张量子类的扩展点

用于 Python 运行时的 torch.export AOTInductor 教程

torch.export 流的演示、常见挑战以及解决这些挑战的方案

使用 Captum 进行模型可解释性分析

如何在 PyTorch 中使用 TensorBoard

动态量化

用于部署的 TorchScript

使用 Flask 部署

PyTorch 移动性能食谱

制作使用 PyTorch Android 预构建库的 Android 原生应用程序

融合模块食谱

移动设备量化食谱

为移动设备编写脚本并优化

iOS 模型准备食谱

Android 模型准备食谱

Android 和 iOS 中的移动解释器工作流程

分析基于 PyTorch RPC 的工作负载

自动混合精度

性能调优指南

使用 run_cpu 脚本优化 Intel® Xeon® 上的 CPU 性能

AWS Graviton 处理器上的 PyTorch 推理性能调优

利用 Intel® Advanced Matrix Extensions

（beta）使用 torch.compile 编译优化器

（beta）使用 LR 调度器运行编译后的优化器

将用户定义的 Triton 内核与 ``torch.compile`` 一起使用

``torch.compile`` 中的编译时间缓存

通过区域编译减少 torch.compile 冷启动编译时间

适用于 PyTorch* 的 Intel® 扩展

适用于 PyTorch 的 Intel® Neural Compressor

DeviceMesh 入门

使用 ZeroRedundancyOptimizer 分片优化器状态

使用 TensorPipe RPC 进行直接设备到设备通信

支持 TorchScript 的分布式优化器

分布式检查点 (DCP) 入门

异步检查点 (DCP)

CommDebugMode 入门

将 PyTorch Stable Diffusion 模型部署为 Vertex AI Endpoint

文档

教程

资源