将后端委托集成到 ExecuTorch¶
免责声明:我们计划围绕委托重组存储库。因此,其中一些指南将来会发生变化。
这是将后端委托与 ExecuTorch 集成时的高级指南。
目录结构¶
委托文件应位于此目录下:executorch/backends/<delegate_name>/
。
委托名称应是唯一的。
Python 源代码文件¶
委托 Python 文件,例如那些为 ExecuTorch AOT 流程实现 preprocess()
或 partition()
函数的文件,不包括任何外部第三方依赖及其文件,应与顶级 ExecuTorch 包一起安装和提供。对于第三方依赖,请参考此处。
C++ 源代码文件¶
至少,委托必须提供 CMake 支持以构建其 C++ 源代码。
对于 CMake 设置,委托目录应使用 add_subdirectory
CMake 命令包含在顶层 CMakeLists.txt
文件中,并且应使用 ExecuTorch 构建标志(如 EXECUTORCH_BUILD_<DELEGATE_NAME>
)有条件地构建,例如参见 EXECUTORCH_BUILD_XNNPACK
。对于第三方依赖,请参考此处。
测试¶
测试应添加到 executorch/backends/<delegate_name>/test
下。测试可以是 Python 或 C++ 测试。如需添加更复杂的端到端 (e2e) 测试,请联系我们。
常见测试类型
简单的 Python 单元测试,用于测试 AOT 逻辑,例如
partitioner()
或 AOT 导出流程(从nn.Module
生成.pte
文件)
运行时 C++ 测试,使用 gtest,用于测试委托 init()
或 execute()
运行时逻辑。
文档¶
委托必须包含一个 executorch/backends/<delegate_name>/README.md
,解释委托的基础知识、目录结构、功能以及任何已知问题。