快捷方式

get_world_size_and_rank

torchtune.utils.get_world_size_and_rank() Tuple[int, int][source]

一个函数,用于获取当前进程在默认进程组中的当前世界大小(即总的 rank 数量)和 rank 编号。

返回::

世界大小, rank

返回类型::

Tuple[int, int]

文档

查阅 PyTorch 的全面开发者文档

查看文档

教程

获取针对初学者和高级开发者的深度教程

查看教程

资源

查找开发资源并获得问题解答

查看资源