快捷方式

ExecuTorch 概述

ExecuTorch 是一种端到端解决方案,用于在移动和边缘设备(包括可穿戴设备、嵌入式设备和微控制器)上启用设备端推理能力。它是 PyTorch Edge 生态系统的一部分,可实现 PyTorch 模型在边缘设备上的高效部署。

ExecuTorch 的主要价值主张是

  • 可移植性: 与各种计算平台兼容,从高端手机到高度受限的嵌入式系统和微控制器。

  • 生产力: 使开发者能够使用相同的工具链和开发者工具,从 PyTorch 模型创作和转换,到调试和部署到各种平台。

  • 性能: 由于轻量级运行时以及充分利用 CPU、NPU 和 DSP 等硬件功能,为最终用户提供无缝且高性能的体验。

为什么选择 ExecuTorch?

支持设备端 AI 带来了独特的挑战,包括多样化的硬件、关键的功耗要求、低/无互联网连接以及实时处理需求。这些限制在历史上阻止或减缓了可扩展且高性能的设备端 AI 解决方案的创建。我们设计了 ExecuTorch,并得到了 Meta、Arm、Apple 和 Qualcomm 等行业合作伙伴的支持,使其具有高度的可移植性,并在不损失性能的情况下提供卓越的开发者生产力。

ExecuTorch 与 PyTorch Mobile(Lite Interpreter)有何不同?

PyTorch Mobile 使用 TorchScript 使 PyTorch 模型能够在资源有限的设备上运行。ExecuTorch 具有更小的内存大小和动态内存占用,与 PyTorch Mobile 相比,具有卓越的性能和可移植性。此外,ExecuTorch 不依赖 TorchScript,而是利用 PyTorch 2 编译器和导出功能在设备端执行 PyTorch 模型。

阅读更多关于 ExecuTorch 的深入技术概述主题

文档

访问 PyTorch 的全面开发者文档

查看文档

教程

获取面向初学者和高级开发者的深入教程

查看教程

资源

查找开发资源并获得问题解答

查看资源