UpdateWeights

class torchrl.trainers.UpdateWeights(collector: DataCollectorBase, update_weights_interval: int)

一个收集器权重更新钩子类。

当收集器策略权重与 Trainer 训练的策略权重位于不同设备上时，必须使用此钩子。在这种情况下，这些权重必须定期在设备之间同步。如果设备匹配，这将导致无操作。

参数:

• collector (DataCollectorBase) – 策略权重必须同步的数据收集器。

• update_weights_interval (int) – 同步必须发生的间隔（以收集的批次数为单位）。

示例

>>> update_weights = UpdateWeights(trainer.collector, T)
>>> trainer.register_op("post_steps", update_weights)

register(trainer: Trainer, name: str = 'update_weights')

在训练器的默认位置注册钩子。

参数:

• trainer (Trainer) – 必须注册钩子的训练器。

• name (str) – 钩子的名称。

注意

要在默认位置以外的其他位置注册钩子，请使用 register_op()。