快捷方式

ExecuTorch 概览

ExecuTorch 是一个端到端解决方案,可为包括可穿戴设备、嵌入式设备和微控制器在内的移动及边缘设备提供设备端推理能力。它是 PyTorch Edge 生态系统的一部分,并支持将 PyTorch 模型高效部署到边缘设备上。

ExecuTorch 的主要价值主张包括:

  • 可移植性:兼容各种计算平台,从高端手机到高度受限的嵌入式系统和微控制器。

  • 生产力:使开发者能够使用相同的工具链和开发者工具,涵盖从 PyTorch 模型编写和转换到在各种平台上调试和部署的整个过程。

  • 性能:通过轻量级运行时和充分利用 CPU、NPU 和 DSP 等硬件能力,为最终用户提供流畅且高性能的体验。

为什么选择 ExecuTorch?

支持设备端 AI 带来了独特的挑战,涉及多样化的硬件、关键的功耗要求、低甚至无网络连接以及实时处理需求。这些限制历来阻碍或减缓了可扩展且高性能设备端 AI 解决方案的创建。我们设计了 ExecuTorch,并得到了 Meta、Arm、Apple 和 Qualcomm 等行业合作伙伴的支持,旨在实现高度可移植性,并在不牺牲性能的前提下提供卓越的开发者生产力。

ExecuTorch 与 PyTorch Mobile(Lite Interpreter)有何不同?

PyTorch Mobile 使用 TorchScript 使得 PyTorch 模型可以在资源有限的设备上运行。与 PyTorch Mobile 相比,ExecuTorch 拥有显著更小的内存占用和动态内存足迹,从而带来卓越的性能和可移植性。此外,ExecuTorch 不依赖于 TorchScript,而是利用 PyTorch 2 编译器和导出功能来实现 PyTorch 模型在设备上的执行。

阅读更多关于 ExecuTorch 的深度技术概览主题

文档

访问 PyTorch 的全面开发者文档

查看文档

教程

获取面向初学者和高级开发者的深度教程

查看教程

资源

查找开发资源并获得问题解答

查看资源