快捷方式

ExecuTorch 概述

ExecuTorch 是一种端到端解决方案,可为包括可穿戴设备、嵌入式设备和微控制器在内的移动设备和边缘设备提供设备上推理功能。它是 PyTorch Edge 生态系统的一部分,可将 PyTorch 模型高效地部署到边缘设备。

ExecuTorch 的主要价值主张是

  • 可移植性:与各种计算平台兼容,从高端移动电话到高度受限的嵌入式系统和微控制器。

  • 生产力:使开发人员能够使用相同的工具链和 SDK 从 PyTorch 模型创作和转换到调试和部署到各种平台。

  • 性能: 由于轻量级运行时和利用 CPU、NPU 和 DSP 等全面的硬件功能,为最终用户提供无缝且高性能的体验。

为什么选择 ExecuTorch?

支持设备端 AI 呈现出独特的挑战,包括多样化的硬件、关键的功耗要求、低/无互联网连接以及实时处理需求。这些限制在历史上阻碍或减缓了可扩展且高性能的设备端 AI 解决方案的创建。我们设计了 ExecuTorch,并得到了 Meta、Arm、Apple 和 Qualcomm 等行业合作伙伴的支持,使其高度便携,并提供卓越的开发人员生产力,而不会损失性能。

ExecuTorch 与 PyTorch Mobile(Lite 解释器)有何不同?

PyTorch Mobile 使用 TorchScript 允许 PyTorch 模型在资源有限的设备上运行。与 PyTorch Mobile 相比,ExecuTorch 的内存大小明显更小,内存占用动态,从而带来卓越的性能和可移植性。此外,ExecuTorch 不依赖于 TorchScript,而是利用 PyTorch 2 编译器和导出功能来执行设备端 PyTorch 模型。

阅读有关 ExecuTorch 的更深入的技术概述主题

文档

访问 PyTorch 的全面开发人员文档

查看文档

教程

获取针对初学者和高级开发人员的深入教程

查看教程

资源

查找开发资源并获得问题的解答

查看资源