SequentialLR

class torch.optim.lr_scheduler.SequentialLR(optimizer, schedulers, milestones, last_epoch=-1)

包含一个调度器列表，这些调度器将在优化过程中按顺序调用。

具体来说，调度器将根据里程碑点调用，这些里程碑点应提供每个调度器在给定 epoch 下应被调用的精确间隔。

参数

• optimizer (Optimizer) – 包装的优化器。

• schedulers (list) – 链式调度器列表。

• milestones (list) – 反映里程碑点的整数列表。

• last_epoch (int) – 上一轮次的索引。默认值: -1。

示例

>>> # Assuming optimizer uses lr = 1. for all groups
>>> # lr = 0.1     if epoch == 0
>>> # lr = 0.1     if epoch == 1
>>> # lr = 0.9     if epoch == 2
>>> # lr = 0.81    if epoch == 3
>>> # lr = 0.729   if epoch == 4
>>> scheduler1 = ConstantLR(optimizer, factor=0.1, total_iters=2)
>>> scheduler2 = ExponentialLR(optimizer, gamma=0.9)
>>> scheduler = SequentialLR(optimizer, schedulers=[scheduler1, scheduler2], milestones=[2])
>>> for epoch in range(100):
>>>     train(...)
>>>     validate(...)
>>>     scheduler.step()

get_last_lr()

返回当前调度器计算出的最后一个学习率。

返回类型

list[float]

get_lr()

使用链式形式的调度器计算学习率。

返回类型

list[float]

load_state_dict(state_dict)

加载调度器的状态。

参数

state_dict (dict) – 调度器状态。应为调用 state_dict() 返回的对象。

recursive_undo(sched=None)

递归撤销由调度器初始化执行的任何步骤。

state_dict()

将调度器的状态作为 dict 返回。

它包含 self.__dict__ 中除了 optimizer 之外的每个变量的条目。包装的调度器状态也将被保存。

step()

执行一步。