Function torch_tensorrt::torchscript::convert_method_to_trt_engine¶
函数文档¶
-
TORCHTRT_API std::string torch_tensorrt::torchscript::convert_method_to_trt_engine(const torch::jit::Module &module, std::string method_name, CompileSpec info)¶
使用 TensorRT 为 NVIDIA GPU 编译 TorchScript 方法。
接受现有的 TorchScript 模块和一组设置来配置编译器，并将选定的方法转换为序列化的 TensorRT 引擎，该引擎可以使用 TensorRT 运行
- 参数
module – torch::jit::Module - 现有的 TorchScript 模块
method_name – std::string - 要编译的方法名称
info – torch_tensorrt::CompileSpec - 编译设置
- 返回值
: std::string: 序列化的 TensorRT 引擎，等效于方法图
