int8_dynamic_activation_int8_semi_sparse_weight

torchao.sparsity.int8_dynamic_activation_int8_semi_sparse_weight()

将 int8 动态对称每 token 激活和 int8 每通道权重量化 + 2:4 稀疏性应用于全连接层。