快捷方式

ExecuTorch 概述

ExecuTorch 是一种端到端解决方案,用于在移动设备和边缘设备(包括可穿戴设备、嵌入式设备和微控制器)上实现设备端推理功能。它是 PyTorch Edge 生态系统的一部分,能够将 PyTorch 模型高效地部署到边缘设备。

ExecuTorch 的主要价值主张包括:

  • 可移植性:与各种计算平台兼容,从高端手机到高度受限的嵌入式系统和微控制器。

  • 生产力:使开发人员能够使用 PyTorch 模型创作和转换、调试以及部署到各种平台的相同工具链和开发者工具。

  • 性能:由于运行时轻量级并利用 CPU、NPU 和 DSP 等完整的硬件功能,为最终用户提供无缝且高性能的体验。

为什么选择 ExecuTorch?

支持设备端 AI 会带来独特的挑战,例如硬件多样性、关键功耗要求、低/无互联网连接以及实时处理需求。这些限制历来阻碍或延缓了可扩展且高性能的设备端 AI 解决方案的创建。我们设计了 ExecuTorch,并得到了 Meta、Arm、Apple 和 Qualcomm 等行业合作伙伴的支持,使其具有高度可移植性并提供卓越的开发人员生产力,同时不牺牲性能。

ExecuTorch 与 PyTorch Mobile(Lite 解释器)有何不同?

PyTorch Mobile 使用 TorchScript 允许 PyTorch 模型在资源有限的设备上运行。与 PyTorch Mobile 相比,ExecuTorch 的内存占用显着减少,内存占用动态,从而实现卓越的性能和可移植性。此外,ExecuTorch 不依赖于 TorchScript,而是利用 PyTorch 2 编译器和导出功能来执行设备端 PyTorch 模型。

阅读有关 ExecuTorch 的更多深入的技术概述主题

文档

访问 PyTorch 的全面开发者文档

查看文档

教程

获取针对初学者和高级开发人员的深入教程

查看教程

资源

查找开发资源并解答您的问题

查看资源