ts.utils 包

子模块

ts.utils.timeit_decorator 模块

timeit 装饰器

ts.utils.timeit_decorator.timeit(func)

将此装饰器用于方法以查找其执行时间。:param func: :return

ts.utils.util 模块

TorchServe 的实用程序函数

class ts.utils.util.PT2Backend(value)

基类: str, Enum

枚举。

AOT_CUDAGRAPHS = 'aot_cudagraphs'

AOT_EAGER = 'aot_eager'

AOT_NVFUSER = 'aot_nvfuser'

EAGER = 'eager'

FX2TRT = 'fx2trt'

HPU_BACKEND = 'hpu_backend'

INDUCTOR = 'inductor'

IPEX = 'ipex'

NVFUSER = 'nvfuser'

OFI = 'ofi'

ONNXRT = 'onnxrt'

OPENVINO = 'openvino'

TENSORRT = 'tensorrt'

TORCHXLA_TRACE_ONCE = 'torchxla_trace_once'

exception ts.utils.util.PredictionException(message, error_code=500)

基类: Exception

ts.utils.util.check_valid_pt2_backend(backend: str) → bool

ts.utils.util.deprecated(version, replacement='', klass=<class 'PendingDeprecationWarning'>)

此装饰器可用于将函数标记为已弃用。当使用该函数时，它将导致发出警告。

参数：

• **version** – 将删除该函数的版本。

• **replacement** – 替换函数（如果有）。

• **klass** – 警告类别

ts.utils.util.get_yaml_config(yaml_file_path)

ts.utils.util.list_classes_from_module(module, parent_class=None)

解析用户定义的模块，获取其中所有模型服务类。

参数：

• module – 模块

• parent_class – 父类

返回:

模型服务类定义列表

ts.utils.util.load_label_mapping(mapping_file_path)

加载 JSON 映射 { 类 ID -> 类别名称 }。在 BaseHandler 中使用。

ts.utils.util.map_class_to_label(probs, mapping=None, lbl_classes=None)

给定一个类和概率列表，返回一个字典 { 类别名称 -> 概率 }。

模块内容

TorchServe 的实用程序文件