PrepareCustomConfig

class torch.ao.quantization.fx.custom_config.PrepareCustomConfig

用于 prepare_fx() 和 prepare_qat_fx() 的自定义配置。

示例用法

prepare_custom_config = PrepareCustomConfig()             .set_standalone_module_name("module1", qconfig_mapping, example_inputs,                 child_prepare_custom_config, backend_config)             .set_standalone_module_class(MyStandaloneModule, qconfig_mapping, example_inputs,                 child_prepare_custom_config, backend_config)             .set_float_to_observed_mapping(FloatCustomModule, ObservedCustomModule)             .set_non_traceable_module_names(["module2", "module3"])             .set_non_traceable_module_classes([NonTraceableModule1, NonTraceableModule2])             .set_input_quantized_indexes([0])             .set_output_quantized_indexes([0])             .set_preserved_attributes(["attr1", "attr2"])

classmethod from_dict(prepare_custom_config_dict)

从包含以下项目的字典创建 PrepareCustomConfig

“standalone_module_name”: (模块名称，qconfig 映射，示例输入，子 prepare_custom_config，后端配置) 元组列表

“standalone_module_class” (模块类，qconfig 映射，示例输入，子 prepare_custom_config，后端配置) 元组列表

“float_to_observed_custom_module_class”: 一个嵌套字典，从量化模式映射到一个内部映射，从浮点模块类到观测到的模块类，例如 {“static”: {FloatCustomModule: ObservedCustomModule}}

“non_traceable_module_name”: 不可符号跟踪的模块名称列表“non_traceable_module_class”: 不可符号跟踪的模块类列表 “input_quantized_idxs”: 应量化的图输入索引列表“output_quantized_idxs”: 应量化的图输出索引列表 “preserved_attributes”: 即使在 forward 中未使用时也会保留的属性列表

此函数主要用于向后兼容性，将来可能会被删除。

返回类型

PrepareCustomConfig

set_float_to_observed_mapping(float_class, observed_class, quant_type=QuantType.STATIC)

设置从自定义浮点模块类到自定义观测到的模块类的映射。

观测到的模块类必须具有一个 from_float 类方法，该方法将浮点模块类转换为观测到的模块类。目前，这仅在静态量化中受支持。

返回类型

PrepareCustomConfig

set_input_quantized_indexes(indexes)

设置图输入中应量化的输入索引。默认情况下，否则假定输入为 fp32。

返回类型

PrepareCustomConfig

set_non_traceable_module_classes(module_classes)

设置不可符号跟踪的模块，通过类识别。

返回类型

PrepareCustomConfig

set_non_traceable_module_names(module_names)

设置不可符号跟踪的模块，通过名称识别。

返回类型

PrepareCustomConfig

set_output_quantized_indexes(indexes)

设置图输出中应量化的输出索引。默认情况下，否则假定输出为 fp32。

返回类型

PrepareCustomConfig

set_preserved_attributes(attributes)

设置将在图模块中保留的属性的名称，即使它们未在模型的 forward 方法中使用。

返回类型

PrepareCustomConfig

set_standalone_module_class(module_class, qconfig_mapping, example_inputs, prepare_custom_config, backend_config)

设置由 module_class 标识的独立模块的配置。

如果 qconfig_mapping 为 None，则使用父级 qconfig_mapping。 如果 prepare_custom_config 为 None，则使用空的 PrepareCustomConfig。 如果 backend_config 为 None，则使用父级 backend_config。

返回类型

PrepareCustomConfig

set_standalone_module_name(module_name, qconfig_mapping, example_inputs, prepare_custom_config, backend_config)

设置由 module_name 标识的独立模块的配置。

如果 qconfig_mapping 为 None，则使用父级 qconfig_mapping。 如果 prepare_custom_config 为 None，则使用空的 PrepareCustomConfig。 如果 backend_config 为 None，则使用父级 backend_config。

返回类型

PrepareCustomConfig

to_dict()

将此 PrepareCustomConfig 转换为字典，其中包含在 from_dict() 中描述的项目。

返回类型

Dict[str, Any]