欢迎使用 ExecuTorch 文档

重要

v0.4.0 是 ExecuTorch 的测试版发布。在此版本中，API 将遵循 API 生命周期和弃用策略，并且 .pte 二进制格式将符合 运行时兼容性策略。这有助于确保应用程序开发人员可以更新到最新版本的 ExecuTorch，而不会破坏现有的集成代码，并符合这些策略。如果出现任何问题或兼容性中断，请 在 GitHub 上报告。

我们欢迎社区提供任何反馈、建议和错误报告，以帮助我们改进技术。请使用 PyTorch 论坛 讨论和反馈有关 ExecuTorch 的信息，使用 ExecuTorch 类别，以及我们的 GitHub 代码库 报告错误。

ExecuTorch 是一个 PyTorch 平台，提供基础设施，用于在从 AR/VR 可穿戴设备到标准的设备端 iOS 和 Android 移动部署的各种环境中运行 PyTorch 程序。ExecuTorch 的主要目标之一是增强 PyTorch 程序的定制和部署能力。

ExecuTorch 很大程度上依赖于 PyTorch 技术，如 torch.compile 和 torch.export。如果您不熟悉这些 API，建议您在深入研究 ExecuTorch 文档之前，先阅读 PyTorch 文档中关于这些 API 的内容。

ExecuTorch 源代码托管在 GitHub 上，地址为 https://github.com/pytorch/executorch。

入门

本节中的主题将帮助您开始使用 ExecuTorch。

什么是 ExecuTorch？

对 ExecuTorch 的简要介绍。在本节中，您将了解 ExecuTorch 的主要功能以及如何在您的项目中使用它们。

ExecuTorch 入门

有关如何开始使用 ExecuTorch 的分步教程。

ExecuTorch Llama

了解如何通过 ExecuTorch 运行 Llama 模型

教程和示例

准备好实验了吗？查看一些 ExecuTorch 教程。

---

导出到 ExecuTorch 教程

主题： 导出,委托,量化

导出模型并将其降低以在 ExecuTorch 运行时上运行的教程。

运行 ExecuTorch 模型 C++ 教程

主题：

有关设置内存池、加载模型、设置输入、执行模型以及在设备上检索输出的教程。

简化运行时 API 教程

主题：

在设备上执行模型的简化教程。

在 C++ 教程中管理张量内存

主题：

处理张量时管理动态内存的教程。

使用 ExecuTorch 开发者工具分析模型

主题： devtools

使用 ExecuTorch 开发者工具分析和分析模型（与源代码链接）的教程。

在 Apple 平台上集成和运行 ExecuTorch

主题： iOS, macOS

在 iOS 上集成、使用和解决 ExecuTorch 运行时问题的教程。

构建 ExecuTorch iOS 演示应用程序

主题： 委托,iOS

一个演示教程，说明如何将 ExecuTorch 构建到 iOS 框架中并运行 iOS 应用程序。

构建 ExecuTorch Android 演示应用程序

主题： 委托,Android

一个演示教程，说明如何将 ExecuTorch 构建到 JNI 库中并构建 Android 应用程序。

将模型作为委托降低

主题： 导出,委托

一个端到端示例，展示如何将模型作为委托降低

使用 XNNPACK 后端构建和运行 ExecuTorch

主题： 导出,后端,委托,量化,XNNPACK

使用 XNNPACK 后端降低和导出模型的演示教程

使用 Vulkan 后端构建和运行 ExecuTorch

主题： 导出,后端,委托,Vulkan

一个教程，引导您完成使用 Vulkan 后端构建 ExecuTorch 的过程

使用 ARM Ethos-U 后端构建和运行 ExecuTorch

主题： 导出,后端,委托,ARM,Ethos-U

一个教程，引导您完成使用 ARM Ethos-U 后端构建 ExecuTorch 的过程

使用 CoreML 后端构建和运行 ExecuTorch

主题： 导出,后端,委托,CoreML

一个教程，引导您完成使用 CoreML 后端构建 ExecuTorch 的过程

使用 MPS 后端构建和运行 ExecuTorch

主题： 导出,后端,委托,MPS,MPSGraph

一个教程，引导您完成使用 MPSGraph 后端构建 ExecuTorch 的过程

使用 Qualcomm AI Engine Direct 后端构建和运行 ExecuTorch

主题： 导出,后端,委托,QNN

一个教程，引导您完成使用 Qualcomm AI Engine Direct 后端构建 ExecuTorch 的过程

在 Xtensa HiFi4 DSP 上构建和运行 ExecuTorch

主题： 导出,自定义运算符,DSP,Xtensa

一个教程，引导您完成使用自定义运算符为 Xtensa Hifi4 DSP 构建 ExecuTorch 的过程