欢迎来到 ExecuTorch 文档

重要

v0.4.0 是 ExecuTorch 的 beta 版本。从 v0.4.0 开始，API 遵循 API 生命周期和弃用策略，并且 .pte 二进制格式符合 运行时兼容性策略。这有助于确保应用程序开发者可以根据这些策略更新到最新版本的 ExecuTorch，而不会破坏现有的集成代码。如果出现任何问题或兼容性中断，请在 GitHub 中报告。

我们欢迎社区的任何反馈、建议和错误报告，以帮助我们改进这项技术。请使用 PyTorch 论坛 的 ExecuTorch 类别讨论和反馈关于 ExecuTorch 的内容，并使用我们的 GitHub 仓库 报告错误。

ExecuTorch 是一个 PyTorch 平台，它提供基础设施，可以在从 AR/VR 可穿戴设备到标准的设备端 iOS 和 Android 移动部署等各种环境中运行 PyTorch 程序。ExecuTorch 的主要目标之一是使 PyTorch 程序能够实现更广泛的定制和部署能力。

ExecuTorch 严重依赖于 torch.compile 和 torch.export 等 PyTorch 技术。如果您不熟悉这些 API，建议您在深入研究 ExecuTorch 文档之前，先阅读 PyTorch 文档中关于它们的介绍。

ExecuTorch 源代码托管在 GitHub 上，地址为 https://github.com/pytorch/executorch。

开始使用

本节中的主题将帮助您开始使用 ExecuTorch。

什么是 ExecuTorch？

ExecuTorch 简介。在本节中，您将了解 ExecuTorch 的主要功能以及如何在项目中使用它们。

ExecuTorch 入门

关于如何开始使用 ExecuTorch 的分步教程。

ExecuTorch Llama

了解如何通过 ExecuTorch 运行 Llama 模型

教程和示例

准备好进行实验了吗？查看一些 ExecuTorch 教程。

---

导出到 ExecuTorch 教程

主题： 导出,委托,量化

关于导出模型并将其降级以在 ExecuTorch 运行时上运行的教程。

运行 ExecuTorch 模型 C++ 教程

主题：

关于设置内存池、加载模型、设置输入、执行模型以及在设备上检索输出的教程。

简化的运行时 API 教程

主题：

关于在设备上执行模型的简化教程。

在 C++ 中管理张量内存教程

主题：

关于在使用张量时管理动态内存的教程。

使用 ExecuTorch 开发者工具分析模型

主题： devtools

关于使用 ExecuTorch 开发者工具来分析模型并链接回源代码的教程。

在 Apple 平台上集成和运行 ExecuTorch

主题： iOS, macOS

关于在 iOS 上集成、使用和排除 ExecuTorch 运行时故障的教程。

构建 ExecuTorch iOS 演示应用

主题： 委托,iOS

一个演示教程，解释了如何将 ExecuTorch 构建到 iOS 框架中并运行 iOS 应用程序。

构建 ExecuTorch Android 演示应用

主题： 委托,Android

一个演示教程，解释了如何将 ExecuTorch 构建到 JNI 库中并构建 Android 应用程序。

将模型降级为委托

主题： 导出,委托

一个端到端示例，展示了如何将模型降级为委托

使用 XNNPACK 后端构建和运行 ExecuTorch

主题： 导出,后端,委托,量化,XNNPACK

关于使用 XNNPACK 后端降级和导出模型的演示教程

使用 Vulkan 后端构建和运行 ExecuTorch

主题： 导出,后端,委托,Vulkan

一个教程，引导您完成使用 Vulkan 后端构建 ExecuTorch 的过程

使用 ARM Ethos-U 后端构建和运行 ExecuTorch

主题： 导出,后端,委托,ARM,Ethos-U

一个教程，引导您完成使用 ARM Ethos-U 后端构建 ExecuTorch 的过程

使用 CoreML 后端构建和运行 ExecuTorch

主题： 导出,后端,委托,CoreML

一个教程，引导您完成使用 CoreML 后端构建 ExecuTorch 的过程

使用 MediaTek 后端构建和运行 ExecuTorch

主题： 导出,后端,委托,MediaTek

一个教程，引导您完成使用 MediaTek 后端构建 ExecuTorch 的过程

使用 MPS 后端构建和运行 ExecuTorch

主题： 导出,后端,委托,MPS,MPSGraph

一个教程，引导您完成使用 MPSGraph 后端构建 ExecuTorch 的过程

使用 Qualcomm AI Engine Direct 后端构建和运行 ExecuTorch

主题： 导出,后端,委托,QNN

一个教程，引导您完成使用 Qualcomm AI Engine Direct 后端构建 ExecuTorch 的过程

在 Xtensa HiFi4 DSP 上构建和运行 ExecuTorch

主题： 导出,自定义运算符,DSP,Xtensa

一个教程，引导您完成使用自定义运算符为 Xtensa Hifi4 DSP 构建 ExecuTorch 的过程