结构体 Device¶

定义于文件 torch_tensorrt.h

嵌套关系¶

嵌套类型¶

类 Device::DeviceType

结构体文档¶

struct Device¶

为目标设备设置数据结构。

公有函数

inline Device()¶: 为 Device 结构体创建构造函数

公有成员

DeviceType device_type¶: 为设备设置数据结构此结构体将保存目标设备相关参数，例如 device_type、gpu_id、dla_core。

int64_t gpu_id¶

int64_t dla_core¶

bool allow_gpu_fallback¶: (仅在以 DLA (设备) 为目标时使用) 允许引擎在 GPU 上运行层，如果它们在 DLA 上不受支持

class DeviceType

支持的 Device 类型，可与 TensorRT 引擎一起使用

此类与 c10::DeviceTypes 兼容（但将检查 TRT 支持），但唯一适用的值为 at::kCUDA，它映射到 DeviceType::kGPU

要使用 DataType 类本身，请使用枚举而不是正常的实例化

例如，torch_tensorrt::DeviceType type = DeviceType::kGPU;

公有类型

enum Value

支持 DeviceType 类的底层枚举类

如果您需要使用 DeviceType 类本身，请使用此枚举，而不是正常的实例化

例如，torch_tensorrt::DeviceType type = DeviceType::kGPU;

值

enumerator kGPU: 目标 GPU，用于运行引擎。

enumerator kDLA: 目标 DLA，用于运行引擎。

公有函数

DeviceType() = default: 构造一个新的 Device 类型对象。

inline constexpr DeviceType(Value t): 从内部枚举构造一个新的 Device 类型对象。

DeviceType(c10::DeviceType t)

从 torch 设备枚举构造一个新的 Device 类型对象注意：唯一有效值为 torch::kCUDA (torch::kCPU 不受支持)

参数: t –

inline operator Value() const

从 Device 对象获取内部值。

返回值: Value

explicit operator bool() = delete

inline constexpr bool operator==(DeviceType other) const

用于 DeviceType 的比较运算符。

参数

other –

返回值

true

false

inline constexpr bool operator!=(DeviceType other) const