Torch-TensorRT C++ API

类层次结构

• • 命名空间 torch_tensorrt
    • 命名空间 torch_tensorrt::logging
      • 枚举 Level
    • 命名空间 torch_tensorrt::ptq
      • 模板类 Int8CacheCalibrator
      • 模板类 Int8Calibrator
    • 命名空间 torch_tensorrt::torchscript
      • 结构 CompileSpec
    • 结构 Device
      • 类 Device::DeviceType
    • 结构 GraphInputs
    • 结构 Input
    • 类 DataType
    • 类 TensorFormat
    • 枚举 EngineCapability

文件层次结构

• • 目录 cpp
    • 目录 include
      • 目录 torch_tensorrt
        • 文件 logging.h
        • 文件 macros.h
        • 文件 ptq.h
        • 文件 torch_tensorrt.h

完整 API

命名空间

• 命名空间 torch_tensorrt
  • 命名空间
  • 类
  • 枚举
  • 函数

• 命名空间 torch_tensorrt::logging
  • 枚举
  • 函数

• 命名空间 torch_tensorrt::ptq
  • 类
  • 函数

• 命名空间 torch_tensorrt::torchscript
  • 类
  • 函数

类和结构

• 结构 Device
  • 嵌套关系
    • 嵌套类型
  • 结构文档

• 结构 GraphInputs
  • 结构文档

• 结构 Input
  • 继承关系
    • 基类型
  • 结构文档

• 结构 CompileSpec
  • 结构文档

• 类 DataType
  • 类文档

• 类 Device::DeviceType
  • 嵌套关系
  • 类文档

• 模板类 Int8CacheCalibrator
  • 继承关系
    • 基类型
  • 类文档

• 模板类 Int8Calibrator
  • 继承关系
    • 基类型
  • 类文档

• 类 TensorFormat
  • 类文档

枚举

• 枚举 EngineCapability
  • 枚举文档

• 枚举 Level
  • 枚举文档

函数

• 函数 torch_tensorrt::dump_build_info
  • 函数文档

• 函数 torch_tensorrt::get_build_info
  • 函数文档

• 函数 torch_tensorrt::logging::get_is_colored_output_on
  • 函数文档

• 函数 torch_tensorrt::logging::get_logging_prefix
  • 函数文档

• 函数 torch_tensorrt::logging::get_reportable_log_level
  • 函数文档

• 函数 torch_tensorrt::logging::log
  • 函数文档

• 函数 torch_tensorrt::logging::set_is_colored_output_on
  • 函数文档

• 函数 torch_tensorrt::logging::set_logging_prefix
  • 函数文档

• 函数 torch_tensorrt::logging::set_reportable_log_level
  • 函数文档

• 模板函数 torch_tensorrt::ptq::make_int8_cache_calibrator
  • 函数文档

• 模板函数 torch_tensorrt::ptq::make_int8_calibrator
  • 函数文档

• 函数 torch_tensorrt::set_device
  • 函数文档

• 函数 torch_tensorrt::torchscript::check_method_operator_support
  • 函数文档

• 函数 torch_tensorrt::torchscript::compile
  • 函数文档

• 函数 torch_tensorrt::torchscript::convert_method_to_trt_engine
  • 函数文档

• 函数 torch_tensorrt::torchscript::embed_engine_in_new_module
  • 函数文档

定义

• 定义 STR
  • 定义文档

• 定义 TORCH_TENSORRT_MAJOR_VERSION
  • 定义文档

• 定义 TORCH_TENSORRT_MINOR_VERSION
  • 定义文档

• 定义 TORCH_TENSORRT_PATCH_VERSION
  • 定义文档

• 定义 TORCH_TENSORRT_VERSION
  • 定义文档

• 定义 TORCHTRT_API
  • 定义文档

• 定义 TORCHTRT_HIDDEN
  • 定义文档

• 定义 XSTR
  • 定义文档