使用加速 Transformer 模型加速大型语言模型
简而言之：我们展示了如何使用 PyTorch 2.0 的加速 Transformer 和新推出的 torch.compile() 方法来加速……
使用 PyTorch 2 加速生成式扩散模型
简而言之：PyTorch 2.0 nightly 版本通过使用……为生成式扩散模型提供了开箱即用的性能提升。
通过分层 SGD 缓解 PyTorch DDP 中的掉队者问题
PyTorch DDP 已被业界广泛采用用于分布式训练，默认情况下其运行……
PyTorch 与 OpenXLA：前进之路
在我们庆祝 OpenXLA、PyTorch 2.0 和 PyTorch/XLA 2.0 发布之际，值得回顾一下……
加速 PyTorch 2 Transformer 模型
PyTorch 2.0 版本包含了一个新的高性能 PyTorch Transformer API 实现，具有……
PyTorch 2.0 与 XLA——最新的前沿功能
今天，我们很高兴分享我们在 PyTorch/XLA 2.0 方面的最新工作。PyTorch 2.0 的发布是……
使用 PyTorch 2.0 加速 Diffusers
PyTorch 2.0 刚刚发布。其旗舰新功能是 torch.compile()，这是一行代码的更改……
PyTorch 2.0：我们的下一代版本，比以往更快、更符合 Python 习惯且更具动态性
我们很高兴宣布 PyTorch® 2.0 的发布，我们在 2022 年 12 月 2 日的 PyTorch 会议上重点介绍了它！……
PyTorch Foundation2023年3月15日
弃用对 CUDA 11.6 和 Python 3.7 的支持
对于即将推出的 PyTorch 2.0 功能版本（目标为 2023 年 3 月），我们将目标定为 CUDA 11.7……
PyTorch 基金会2023年2月2日
面向大众的 PyTorch 跟踪分析
我们很高兴宣布公开发布 Holistic Trace Analysis (HTA)，这是一个开源的……
2022年12月25日至12月30日期间受损的 PyTorch-nightly 依赖链。
如果您在 2022 年 12 月 25 日至 12 月 30 日期间通过 pip 在 Linux 上安装了 PyTorch-nightly，……
PyTorch Foundation2022年12月31日
Torchserve 性能调优，动画绘图案例研究
在这篇文章中，我们讨论了在生产环境中部署模型时 Torchserve 的性能调优。……
使用 PyTorch 扩展视觉模型训练平台
简而言之：我们演示了在编写大型……时如何使用 PyTorch 和 FairScale 的 FullyShardedDataParallel (FSDP) API。
使用 PyTorch FSDP 和 AWS 进行高效的大规模训练
尖端 AI 模型正变得极其庞大。训练这些模型的成本和开销……
扩展 PyTorch FSDP 以在 IBM 云上训练基础模型
使用云原生方法进行大型模型训练正引起许多企业的关注……