DRAMA 模型推理效率提升 1.7 倍至 2.3 倍 ![]()
简而言之，NJT（嵌套锯齿张量）将 DRAMA 模型推理效率提升了 1.7 倍至 2.3 倍，使其更…
Shreya Goyal2025 年 8 月 22 日
使用 Triton 持久缓存感知分组 GEMM 内核加速 MoE ![]()
在这篇文章中，我们介绍了一个优化的 Triton BF16 分组 GEMM 内核，用于运行训练…
Less Wright, Adnan Hoque, Garrett Goon2025 年 8 月 18 日
PyTorch Wheel 变体，Python 打包的前沿 ![]()
uv 的创建者 charliemarsh 的推文 PyTorch 是开发和使用领先的机器学习框架…
Eli Uriegas2025 年 8 月 13 日
PyTorch Day China 回顾 ![]()
2025 年 6 月 7 日，PyTorch Day China 在北京举行，由 PyTorch 基金会联合主办…
PyTorch Foundation2025 年 8 月 12 日
推进 PyTorch 和 ExecuTorch 中的低位操作符：动态内核选择、KleidiAI 和量化绑定的嵌入 ![]()
TorchAO 为 Arm CPU 带来了高性能的低位线性嵌入操作符。在本次更新中，我们…
在 Opacus 中启用完全分片数据并行 (FSDP2) ![]()
引言和背景 Opacus 在支持大规模模型的私有训练方面取得了显著进展…
Sai Aparna Aketi, Huanyu Zhang2025 年 7 月 7 日
PyTorch + vLLM = ♥️ ![]()
主要收获：PyTorch 和 vLLM 对 AI 生态系统都至关重要，并且日益…
Simon Mo, Woosuk Kwon, Kaichao You, PyTorch 团队 @Meta2025 年 6 月 25 日
FlagGems 加入 PyTorch 生态系统：Triton 驱动的通用 AI 加速操作符库 ![]()
在跨多种 AI 硬件加速大型语言模型的竞赛中，FlagGems 提供了……
FlagGems 团队2025 年 6 月 25 日
容错 Llama：在 Crusoe L40S 上每 15 秒模拟 2000 次故障且无需检查点进行训练 ![]()
合作者：Less Wright, Howard Huang, Chien-Chin Huang, Crusoe: Martin Cala, Ethan Petersen 简而言之：我们使用了…
Tristan Rice, Howard Huang2025 年 6 月 20 日