公告博客

ExecuTorch 成为 PyTorch 核心的一部分,以扩展端侧推理能力

作者: 2026 年 4 月 7 日暂无评论

ExecuTorch Becomes a part of PyTorch Core

今天,我们很高兴地宣布 ExecuTorch 正式成为 PyTorch 核心项目。ExecuTorch 扩展了 PyTorch 的功能,实现了在从桌面/笔记本电脑到移动设备及嵌入式系统等边缘设备上的高效 AI 推理。 

作为 PyTorch 基金会旗下的 PyTorch 核心项目,ExecuTorch 将获得供应商中立的管理,拥有清晰的知识产权 (IP)、商标和品牌归属。这将确保业务与生态决策由多元化的成员群体透明地做出,同时保持技术决策权由个人维护者和开源贡献者掌握,从而最终增强 ExecuTorch 在 PyTorch 生态系统中的采用率。

在此,我们想简要回顾一下 ExecuTorch 的起源,分享我们将其纳入 PyTorch 核心项目的原因,并展望未来。

ExecuTorch 的起源

ExecuTorch 起源于 Meta,旨在简化在边缘和设备端环境(从移动电话、AR/VR 头显和眼镜到嵌入式设备及定制加速器)中高效运行最前沿 PyTorch 模型的过程。

当我们最初在 2023 年 PyTorch 大会上公开介绍 ExecuTorch 时,它是基于以下几个核心原则设计的:

  • 端到端的开发者体验:从 PyTorch 模型创作到设备端部署,提供一致且可预测的工作流。
  • 硬件可移植性:一套能够适配各类 CPU、GPU、NPU、DSP 及其他跨平台加速器的运行时。
  • 小巧、模块化且高效:一个精简的运行时和可组合架构,适用于资源受限的环境。
  • 默认开放:该项目旨在从更广泛的开源 AI 生态系统中受益,并为其做出贡献。

自那时起,ExecuTorch 已从一个内部运行时演变为一个用于设备端 AI 的开放平台。它支撑着 Meta 产品中的模型部署,并正日益被合作伙伴及更广泛的社区采纳,成为将基于 PyTorch 的模型部署到边缘设备上的灵活途径。

增长与社区

ExecuTorch 已迅速超越了其最初的应用场景。它现在被用作各种场景下设备端推理的基础,包括:

  • 移动和 AR/VR 体验
  • 设备端的生成式 AI 和基于 LLM 的助手
  • 边缘计算视觉和传感器处理
  • 模型本地运行的低延迟、隐私保护型应用

虽然 Meta 一直是 ExecuTorch 最初的主要贡献者,但越来越多的公司和独立开发者已开始投入该项目——添加后端、算子、工具和集成,并在此基础上构建他们的产品和研究工作。

我们看到围绕以下领域涌现出的贡献和生态建设:

  • 针对特定硬件的优化和后端
  • 用于为 ExecuTorch 转换、量化和打包 PyTorch 模型的工具
  • 与移动、AR/VR、IoT 和机器人平台的集成
  • 基准测试、测试和文档的改进

ExecuTorch 正成为企业思考“便携式、硬件无关的设备端 AI”的重要组成部分,显而易见,该项目正在转型为一个多利益相关方的生态系统。现在正是将其推向更广泛开源基金会的最佳时机。

为何要成为 PyTorch 核心项目?

在早期阶段,ExecuTorch 的业务管理是有意保持轻量级的——我们的运作方式很像大型组织内部的一个小型初创团队。Meta 帮助搭建了最初的架构:规划项目路线图、建立基本贡献流程、将 ExecuTorch 与 PyTorch 的模型导出及运行时堆栈对齐,并与早期合作伙伴接洽。

随着 ExecuTorch 的扩展,我们意识到:

  • 多家公司希望将 ExecuTorch 作为其设备端 AI 堆栈中中立的共享层进行投入。
  • 硬件供应商和平台提供商需要一种清晰、透明的方式来影响项目方向并做出贡献。
  • 项目需要一种能够跨越单一组织寿命的治理结构,以保持 ExecuTorch 的供应商中立和开放。

成为 PyTorch 基金会旗下的 PyTorch 核心项目,为 ExecuTorch 带来了:

  • 基于基金会理事会和章程的供应商中立治理。
  • 清晰且独立于任何单一公司的 IP、商标和品牌管理。
  • 针对会员资格、工作组和战略计划的成熟开源结构。
  • PyTorch 生态系统中相关项目的天然归属地。

Meta 将继续作为主要贡献者和关键社区成员,但没有任何单一公司会控制 ExecuTorch 的业务治理。PyTorch 基金会在托管大型多利益相关方项目方面的经验,为 ExecuTorch 这一下一阶段的发展提供了结构与灵活性兼备的理想环境。

加强技术治理

自成立以来,ExecuTorch 一直在社区驱动的开源模式下运行:维护者和贡献者在模型转换、运行时、内核、后端和工具等组件上协同工作。责任与个人挂钩,而非仅仅与其雇主挂钩,我们遵循了 PyTorch 生态系统的精神和许多实践做法。随着 ExecuTorch 的成长,我们需要更明确、更透明的技术治理以负责任地进行扩展。

ExecuTorch 的技术治理将遵循以下原则:

  • 项目将遵循 PyTorch 现有的层级化技术治理结构。PyTorch 核心维护者 将监督重大的跨领域变更,而现有的 模块维护者 将监督 ExecuTorch 的特定变更。维护者成员身份基于个人贡献和择优录取。

在接下来的几周内,我们将:

  • 发布清晰、文档化的技术决策流程、提案和升级路径
  • 与熟悉的开源模式对齐(例如:RFC/提案流程、发布管理、兼容性和弃用标准)
  • 投资共享的 CI/CD 基础设施,供硬件合作伙伴测试和验证其后端

这并不会从根本上改变贡献者日常构建 ExecuTorch 的方式。相反,它增加了清晰度、可预测性和开放性,这些对于旨在成为全行业中立、共享的设备端 AI 运行时层的项目而言至关重要。

接下来要做什么

随着 ExecuTorch 成为 PyTorch 核心项目,我们的优先事项是:

  • 壮大跨公司、硬件供应商和独立开发者的多元化贡献者和维护者基础。
  • 深化与 PyTorch 在模型导出、量化和部署流程方面的集成。
  • 扩大硬件和平台覆盖范围,使 ExecuTorch 能够在开发者需要的任何地方高效运行——包括移动设备、XR 头显、边缘盒子和嵌入式系统。
  • 继续投资于文档、工具和示例,使使用 ExecuTorch 进行设备端 AI 开发尽可能地简单易用。

谢谢。