init_distributed

torchtune.training.init_distributed(**kwargs: Dict[str, Any]) → bool

初始化 torch.distributed所需的进程组。

参数：

**kwargs (Dict[str, Any]) – 传递给 torch.distributed.init_process_group 的附加参数。

返回值：

如果 torch.distributed 已初始化，则返回 True。

返回类型：

bool

引发：

RuntimeError – 如果 torch.distributed 已经初始化。