了解 PyTorch 生态系统的各个组成部分
Torchaudio 是一个用于音频和信号处理的 PyTorch 库。它提供了 I/O、信号和数据处理功能、数据集、模型实现以及应用组件。
这是一个专为微调大语言模型(LLM)而设计的 PyTorch 原生库。torchtune 支持完整的微调工作流,并提供与主流生产推理系统的兼容性。
该库是 PyTorch 项目的一部分。PyTorch 是一个开源机器学习框架。torchvision 软件包包含计算机视觉领域中常用的数据集、模型架构和图像变换方法。
TorchRec 是一个 PyTorch 领域库,旨在提供大规模推荐系统(RecSys)所需的通用稀疏和并行原语。它允许开发者训练在大规模嵌入表(embedding tables)上进行分片并分布在多个 GPU 上的模型。
这是一个用于快速媒体编解码的 PyTorch 库。在运行音频和视频相关的 PyTorch 模型时,torchcodec 是我们将音频和视频文件转换为模型可用数据的推荐方式。
这是一个处于 Beta 阶段的库,提供了通用的模块化数据加载原语,用于轻松构建灵活且高性能的数据流水线。此外,还有一些功能仍处于原型阶段。
torchrl 是一个开源、Python 优先的 PyTorch 强化学习库,专注于高模块化和良好的运行时性能,提供低级和高级的 RL 抽象,以及用于代价函数、回报计算和数据处理的可重用函数。
tensordict 是一个类似于字典的类,它简化了对张量批次(batches of tensors)的操作,通过抽象化定制操作并利用自动操作分发(automatic operation dispatching)来减少叶节点错误,从而增强了代码的可读性、简洁性和模块化程度。
PyTorch 可以通过 torch_xla 软件包在 XLA 设备(如 TPU)上运行。本文档介绍了如何在这些设备上运行您的模型。