
今天,我们很高兴地宣布 ExecuTorch 正式成为 PyTorch 核心项目。ExecuTorch 扩展了 PyTorch 的功能,实现了在从桌面/笔记本电脑到移动设备及嵌入式系统等边缘设备上的高效 AI 推理。
作为 PyTorch 基金会旗下的 PyTorch 核心项目,ExecuTorch 将获得供应商中立的管理,拥有清晰的知识产权 (IP)、商标和品牌归属。这将确保业务与生态决策由多元化的成员群体透明地做出,同时保持技术决策权由个人维护者和开源贡献者掌握,从而最终增强 ExecuTorch 在 PyTorch 生态系统中的采用率。
在此,我们想简要回顾一下 ExecuTorch 的起源,分享我们将其纳入 PyTorch 核心项目的原因,并展望未来。
ExecuTorch 的起源
ExecuTorch 起源于 Meta,旨在简化在边缘和设备端环境(从移动电话、AR/VR 头显和眼镜到嵌入式设备及定制加速器)中高效运行最前沿 PyTorch 模型的过程。
当我们最初在 2023 年 PyTorch 大会上公开介绍 ExecuTorch 时,它是基于以下几个核心原则设计的:
- 端到端的开发者体验:从 PyTorch 模型创作到设备端部署,提供一致且可预测的工作流。
- 硬件可移植性:一套能够适配各类 CPU、GPU、NPU、DSP 及其他跨平台加速器的运行时。
- 小巧、模块化且高效:一个精简的运行时和可组合架构,适用于资源受限的环境。
- 默认开放:该项目旨在从更广泛的开源 AI 生态系统中受益,并为其做出贡献。
自那时起,ExecuTorch 已从一个内部运行时演变为一个用于设备端 AI 的开放平台。它支撑着 Meta 产品中的模型部署,并正日益被合作伙伴及更广泛的社区采纳,成为将基于 PyTorch 的模型部署到边缘设备上的灵活途径。
增长与社区
ExecuTorch 已迅速超越了其最初的应用场景。它现在被用作各种场景下设备端推理的基础,包括:
- 移动和 AR/VR 体验
- 设备端的生成式 AI 和基于 LLM 的助手
- 边缘计算视觉和传感器处理
- 模型本地运行的低延迟、隐私保护型应用
虽然 Meta 一直是 ExecuTorch 最初的主要贡献者,但越来越多的公司和独立开发者已开始投入该项目——添加后端、算子、工具和集成,并在此基础上构建他们的产品和研究工作。
我们看到围绕以下领域涌现出的贡献和生态建设:
- 针对特定硬件的优化和后端
- 用于为 ExecuTorch 转换、量化和打包 PyTorch 模型的工具
- 与移动、AR/VR、IoT 和机器人平台的集成
- 基准测试、测试和文档的改进
ExecuTorch 正成为企业思考“便携式、硬件无关的设备端 AI”的重要组成部分,显而易见,该项目正在转型为一个多利益相关方的生态系统。现在正是将其推向更广泛开源基金会的最佳时机。
为何要成为 PyTorch 核心项目?
在早期阶段,ExecuTorch 的业务管理是有意保持轻量级的——我们的运作方式很像大型组织内部的一个小型初创团队。Meta 帮助搭建了最初的架构:规划项目路线图、建立基本贡献流程、将 ExecuTorch 与 PyTorch 的模型导出及运行时堆栈对齐,并与早期合作伙伴接洽。
随着 ExecuTorch 的扩展,我们意识到:
- 多家公司希望将 ExecuTorch 作为其设备端 AI 堆栈中中立的共享层进行投入。
- 硬件供应商和平台提供商需要一种清晰、透明的方式来影响项目方向并做出贡献。
- 项目需要一种能够跨越单一组织寿命的治理结构,以保持 ExecuTorch 的供应商中立和开放。
成为 PyTorch 基金会旗下的 PyTorch 核心项目,为 ExecuTorch 带来了:
- 基于基金会理事会和章程的供应商中立治理。
- 清晰且独立于任何单一公司的 IP、商标和品牌管理。
- 针对会员资格、工作组和战略计划的成熟开源结构。
- PyTorch 生态系统中相关项目的天然归属地。
Meta 将继续作为主要贡献者和关键社区成员,但没有任何单一公司会控制 ExecuTorch 的业务治理。PyTorch 基金会在托管大型多利益相关方项目方面的经验,为 ExecuTorch 这一下一阶段的发展提供了结构与灵活性兼备的理想环境。
加强技术治理
自成立以来,ExecuTorch 一直在社区驱动的开源模式下运行:维护者和贡献者在模型转换、运行时、内核、后端和工具等组件上协同工作。责任与个人挂钩,而非仅仅与其雇主挂钩,我们遵循了 PyTorch 生态系统的精神和许多实践做法。随着 ExecuTorch 的成长,我们需要更明确、更透明的技术治理以负责任地进行扩展。
ExecuTorch 的技术治理将遵循以下原则:
- 项目将遵循 PyTorch 现有的层级化技术治理结构。PyTorch 核心维护者 将监督重大的跨领域变更,而现有的 模块维护者 将监督 ExecuTorch 的特定变更。维护者成员身份基于个人贡献和择优录取。
在接下来的几周内,我们将:
- 发布清晰、文档化的技术决策流程、提案和升级路径
- 与熟悉的开源模式对齐(例如:RFC/提案流程、发布管理、兼容性和弃用标准)
- 投资共享的 CI/CD 基础设施,供硬件合作伙伴测试和验证其后端
这并不会从根本上改变贡献者日常构建 ExecuTorch 的方式。相反,它增加了清晰度、可预测性和开放性,这些对于旨在成为全行业中立、共享的设备端 AI 运行时层的项目而言至关重要。
接下来要做什么
随着 ExecuTorch 成为 PyTorch 核心项目,我们的优先事项是:
- 壮大跨公司、硬件供应商和独立开发者的多元化贡献者和维护者基础。
- 深化与 PyTorch 在模型导出、量化和部署流程方面的集成。
- 扩大硬件和平台覆盖范围,使 ExecuTorch 能够在开发者需要的任何地方高效运行——包括移动设备、XR 头显、边缘盒子和嵌入式系统。
- 继续投资于文档、工具和示例,使使用 ExecuTorch 进行设备端 AI 开发尽可能地简单易用。
谢谢。