get_world_size_and_rank¶ torchtune.utils.get_world_size_and_rank() → Tuple[int, int][source]¶ 一个函数,用于获取当前进程在默认进程组中的当前世界大小(即总的 rank 数量)和 rank 编号。 返回:: 世界大小, rank 返回类型:: Tuple[int, int]