ExecuTorch

什么是 ExecuTorch？

ExecuTorch 是一个端到端解决方案，可为移动设备和边缘设备（包括可穿戴设备、嵌入式设备和微控制器）启用设备上推理功能。它是 PyTorch Edge 生态系统的一部分，可将各种 PyTorch 模型（视觉、语音、生成式 AI 等）高效地部署到边缘设备。ExecuTorch 的主要价值主张是

探索 ExecuTorch

ExecuTorch 目前为 Meta 的 AR、VR 和应用程序系列 (FOA) 产品和服务中的各种体验提供支持。我们很高兴看到社区如何利用我们全新的设备上 AI 堆栈。您可以详细了解 ExecuTorch 的关键组件及其架构，它是如何工作的，以及探索 文档页面和 详细教程.

ExecuTorch 文档

为什么要选择 ExecuTorch？

支持设备上 AI 面临着各种硬件、关键电源要求、低/无互联网连接和实时处理需求的独特挑战。从历史上看，这些限制阻碍或减缓了可扩展且性能高的设备上 AI 解决方案的创建。我们在 Meta、Arm、Apple 和 Qualcomm 等行业领导者的支持下设计了 ExecuTorch，使其高度可移植，并提供卓越的开发者生产力，而不会牺牲性能。

ExecuTorch Alpha 版发布

ExecuTorch 最初是在 2023 年的 PyTorch 大会上向社区发布的。通过我们最新的 Alpha 版发布，我们进一步扩展了 ExecuTorch 在多个维度的功能。首先，我们启用了对将大型语言模型 (LLM) 部署到各种边缘设备的支持。其次，通过 ExecuTorch Alpha 版，我们进一步稳定了 API 表面。最后，我们通过简化安装流程以及通过 ExecuTorch SDK 提高可观察性和开发者生产力，显著改善了开发者体验。ExecuTorch Alpha 版发布还为最近宣布的 Llama 3 8B 提供了早期支持，以及有关如何在 iPhone 15 Pro 和三星 Galaxy S24 手机上运行此模型的演示。