欢迎使用 ExecuTorch 文档

重要

这是一个 alpha 版本；在未来 beta 版本稳定之前，ExecuTorch API 和 .pte 二进制格式可能会以不兼容的方式发生更改。在部署模型时，我们目前建议使用与用于生成 .pte 文件的相同 git 修订版构建的运行时版本。一旦格式稳定，就不再需要这样做。

我们欢迎社区提供任何反馈、建议和错误报告，以帮助我们改进技术。请使用 PyTorch 论坛 使用ExecuTorch 类别讨论和反馈 ExecuTorch，并使用我们的 GitHub 存储库 报告错误。

ExecuTorch 是一个 PyTorch 平台，提供基础设施，可以在从 AR/VR 可穿戴设备到标准设备 iOS 和 Android 移动部署的任何地方运行 PyTorch 程序。ExecuTorch 的主要目标之一是实现 PyTorch 程序更广泛的自定义和部署功能。

ExecuTorch 严重依赖于 torch.compile 和 torch.export 等 PyTorch 技术。如果您不熟悉这些 API，您可能需要在深入了解 ExecuTorch 文档之前在 PyTorch 文档中阅读有关它们的知识。

ExecuTorch 源代码托管在 https://github.com/pytorch/executorch 上的 GitHub 中。

入门

本部分中的主题将帮助您开始使用 ExecuTorch。

什么是 ExecuTorch？

对 ExecuTorch 的简单介绍。在本部分中，您将了解 ExecuTorch 的主要功能以及如何在项目中使用它们。

开始使用 ExecuTorch

有关如何开始使用 ExecuTorch 的分步教程。

ExecuTorch 中间表示 API

了解 EXIR，它是 PyTorch 程序的基于图的中间表示 (IR)。

教程和示例

准备尝试一下了吗？查看一些 ExecuTorch 教程。

---

导出到 ExecuTorch 教程

主题：导出、委托、量化

有关导出模型并将其降低以便在 ExecuTorch 运行时上运行的教程。

运行 ExecuTorch 模型 C++ 教程

主题：

设置内存池、加载模型、设置输入、执行模型和在设备上检索输出的教程。

使用 ExecuTorch SDK 对模型进行分析

主题：SDK

使用 ExecuTorch SDK 对模型进行分析和分析的教程，并链接回源代码。

构建 ExecuTorch iOS 演示应用

主题：委托、iOS

演示教程，解释如何将 ExecuTorch 构建到 iOS 框架中并运行 iOS 应用程序。

构建 ExecuTorch Android 演示应用

主题：委托、Android

演示教程，解释如何将 ExecuTorch 构建到 JNI 库中并构建 Android 应用程序。

将模型作为委托降低

主题：导出、委托

一个端到端示例，展示如何将模型作为委托降低

使用 XNNPACK 后端构建和运行 ExecuTorch

主题：导出、后端、委托、量化、XNNPACK

使用 XNNPACK 后端降低和导出模型的演示教程

使用 Vulkan 后端构建和运行 ExecuTorch

主题：导出、后端、委托、Vulkan

本教程将指导您完成使用 Vulkan 后端构建 ExecuTorch 的过程

使用 ARM Ethos-U 后端构建和运行 ExecuTorch

主题：导出、后端、委托、ARM、Ethos-U

本教程将指导您完成使用 ARM Ethos-U 后端构建 ExecuTorch 的过程

使用 CoreML 后端构建和运行 ExecuTorch

主题：导出、后端、委托、CoreML

本教程将指导您完成使用 CoreML 后端构建 ExecuTorch 的过程

使用 MPS 后端构建和运行 ExecuTorch

主题：导出、后端、委托、MPS、MPSGraph

本教程将指导您完成使用 MPSGraph 后端构建 ExecuTorch 的过程

使用 Qualcomm AI Engine Direct 后端构建和运行 ExecuTorch

主题：导出、后端、委托、QNN

本教程将指导您完成使用 Qualcomm AI Engine Direct 后端构建 ExecuTorch 的过程

在 Xtensa HiFi4 DSP 上构建和运行 ExecuTorch

主题：导出、自定义运算符、DSP、Xtensa

本教程将指导您完成使用自定义运算符为 Xtensa Hifi4 DSP 构建 ExecuTorch 的过程