ExecuTorch

什么是 ExecuTorch？

ExecuTorch 是一个端到端解决方案，用于在移动和边缘设备（包括可穿戴设备、嵌入式设备和微控制器）上实现设备端推理功能。它是 PyTorch Edge 生态系统的一部分，支持将各种 PyTorch 模型（视觉、语音、生成式 AI 等）高效部署到边缘设备。ExecuTorch 的主要价值主张是

探索 ExecuTorch

ExecuTorch 目前为 Meta 的 AR、VR 和 Family of Apps (FOA) 产品和服务提供各种体验。我们很高兴看到社区如何利用我们全新的设备端 AI 堆栈。您可以了解更多关于关键组件 ExecuTorch 及其架构、工作原理，并浏览文档页面和详细教程。

ExecuTorch 文档

为什么要选择 ExecuTorch？

支持设备端 AI 面临着独特的挑战，包括硬件多样性、关键功耗要求、低/无互联网连接以及实时处理需求。从历史上看，这些限制阻碍或减缓了可扩展且高性能的设备端 AI 解决方案的创建。我们设计了 ExecuTorch，并得到 Meta、Arm、Apple 和 Qualcomm 等行业领导者的支持，它具有高度可移植性，并在不损失性能的情况下提供卓越的开发者生产力。

ExecuTorch Alpha 版本

ExecuTorch 最初是在 2023 年PyTorch 大会上向社区推出的。在我们最新的 Alpha 版本中，我们在多个维度上进一步扩展了 ExecuTorch 的功能。首先，我们支持在各种边缘设备上部署大型语言模型 (LLM)。其次，通过 ExecuTorch Alpha，我们进一步稳定了 API 接口。最后，我们通过简化安装流程以及通过ExecuTorch SDK提高可观察性和开发者生产力，显著改善了开发者体验。ExecuTorch Alpha 版本还为最近发布的 Llama 3 8B 提供了早期支持，并演示了如何在 iPhone 15 Pro 和三星 Galaxy S24 手机上运行该模型。