TorchRec 概述

TorchRec 是 PyTorch 推荐系统库，旨在为创建最先进的个性化模型和生产路径提供通用原语。TorchRec 已在 Meta 的许多生产推荐系统模型中广泛采用，用于训练和推理工作流程。

为什么选择 TorchRec？

TorchRec 旨在解决构建、扩展和部署大规模推荐系统模型的独特挑战，这不是常规 PyTorch 的重点。更具体地说，TorchRec 为通用推荐系统提供以下原语：

• 专用组件：TorchRec 提供了简化的专用模块，这些模块在编写推荐系统时很常见，重点是嵌入表

• 高级分片技术：TorchRec 提供了灵活且可自定义的方法来分片大规模嵌入表：行式、列式、表式等等。TorchRec 可以自动确定设备拓扑的最佳计划，以实现高效训练和内存平衡

• 分布式训练：虽然 PyTorch 支持基本分布式训练，但 TorchRec 通过更复杂的模型并行技术扩展了这些功能，这些技术专为大规模推荐系统而设计

• 高度优化：TorchRec 训练和推理组件在 FBGEMM 之上进行了高度优化。毕竟，TorchRec 为 Meta 的一些最大规模的推荐系统模型提供支持

• 无摩擦的部署路径：TorchRec 提供了简单的 API，用于转换训练后的模型以进行推理，并将其加载到 C++ 环境中以获得最佳推理模型

• 与 PyTorch 生态系统集成：TorchRec 构建于 PyTorch 之上，这意味着它可以与现有的 PyTorch 代码、工具和工作流程无缝集成。这使开发人员可以利用他们现有的知识和代码库，同时使用推荐系统的高级功能。作为 PyTorch 生态系统的一部分，TorchRec 受益于强大的社区支持、持续的更新以及 PyTorch 带来的改进。