ConstantKLController¶ class torchrl.data.ConstantKLController(*, kl_coef: float = None, model: nn.Module | None = None)[source]¶ 恒定 KL 控制器。 该控制器保持固定的系数,无论使用什么值进行更新。 关键词参数: kl_coef (float) – 计算奖励时用于乘以 KL 的系数。 model (nn.Module, optional) – 需要控制的包装模型。必须具有属性 "kl_coef">。如果提供,"kl_coef" 将被就地更新。