set_seed

torchtune.training.set_seed(seed: Optional[int] = None, debug_mode: Optional[Union[int, str]] = None) → int

在常用库中设置伪随机数生成器的种子。

这将为 PyTorch、NumPy 和 python.random 模块设置种子。对于分布式作业，每个本地进程都会设置其自己的种子，计算种子 + 秩。有关更多详细信息，请参见 https://pytorch.ac.cn/docs/stable/notes/randomness.html。

参数：

• seed (Optional[int]) – 整数值种子。如果为 None，则将生成一个随机种子并设置。

• debug_mode (Optional[Union[str, int]]) –

  控制 PyTorch 中确定性操作的 debug_mode 设置。

  • 如果为 None，则不设置任何 PyTorch 全局值。

  • 如果为“default”或 0，则在非确定性操作上不报错或警告，并且还会启用 PyTorch CuDNN 基准测试。

  • 如果为“warn”或 1，则在非确定性操作上发出警告，并禁用 PyTorch CuDNN 基准测试。

  • 如果为“error”或 2，则在非确定性操作上报错，并禁用 PyTorch CuDNN 基准测试。

  • 有关更多详细信息，请参见 torch.set_deterministic_debug_mode() 和 https://pytorch.ac.cn/docs/stable/notes/randomness.html#avoiding-nondeterministic-algorithms。

返回值：

当前种子

返回类型：

int

引发异常：

ValueError – 如果输入种子值超出要求范围。