过去一年是 PyTorch 具有里程碑意义的一年，从重要版本发布到旗舰大会 PyTorch Conference。我们看到来自 3,500 多名个人和 3,000 个组织的贡献实现了惊人的增长。可以说，PyTorch 现已成为 AI/ML 领域主导的深度学习框架。根据 Linux 基金会近期发布的塑造生成式 AI 未来报告，PyTorch 在模型训练领域以 63% 的采用率处于领先地位。
PyTorch 基金会成立于 2022 年，旨在通过培育和维护围绕 PyTorch 的开源、供应商中立项目生态系统，推动 AI 工具的普及，如今它仍然是深度学习社区为之创建、由其维护的一个充满活力、协作共赢的中心。在年终之际，让我们回顾一下过去的一些亮点，看看今年是如何实现增长、协作、创新和社区发展的。
2024 年亮点：增长与影响力之年
PyTorch 今年的增长加速。与去年相比，全球组织的贡献数量增加了一倍，总贡献增长了 133%。
过去一年，使用 PyTorch 的新仓库同比增长 20%，分支（forks）和用户数量增长 30%。
现在，超过 70% 的 AI 研究实现都使用了 PyTorch。
数据基于2024 年 Linux 基金会年度报告。
PyTorch 工具生态系统增长超过 25%，增强了软件和硬件能力。通过与所有主要的云服务提供商、数十家主要软件供应商以及行业伙伴合作，PyTorch 正在为 AI 创新的速度和广度设定新的标杆。
今年 PyTorch 发布了 2.2、2.3、2.4 和 2.5 四个里程碑版本。我们看到了各种标志性功能的发布，如 AOTInductor、FlashAttention-2 支持、张量并行化、新的 Python 自定义算子 API 以及 FlexAttention 的引入。来自 PyTorch 基金会成员公司的工程师们也齐心协力，为 英特尔 GPU (XPU)、AWS Graviton 处理器、Inductor 性能等平台提供了支持和优化。
过去一年，PyTorch 团队一直在努力推出许多新的 PyTorch 原生库！ExecuTorch 团队与 Arm、Apple 和 Qualcomm Technologies, Inc. 的合作伙伴合作发布了 Alpha 版本，随后迅速推出了专注于稳定性和增加联发科（MediaTek）支持的 Beta 版本。TorchTune 建立了一个 PyTorch 原生库，用于轻松微调大型语言模型。TorchAO 引入了一个 PyTorch 原生库，通过利用低位数据类型、量化和稀疏性来使模型更快、更小。TorchCodec 的推出为开发者提供了一种简单、高性能且 PyTorch 原生解码视频到张量的方式。TorchRec 1.0 发布，这是 PyTorch 原生推荐系统库的第一个稳定版本。
过去一年，我们还举办了多次有力的技术展示，以突出 PyTorch 的使用方式！TorchTitan 展示了开源、PyTorch 原生分布式训练系统在训练大型语言模型（LLM）方面的潜力。TorchChat 展示了如何在笔记本电脑、台式机和移动设备上无缝且高性能地运行 LLM。
此外，我们非常高兴在 2024 年将多个新项目纳入 PyTorch 生态系统，包括将先进的推理引擎 vLLM 引入 PyTorch 生态系统，这为机器学习工程师提供了一种简单、快速且经济的方式来提供 LLM 服务。如果您有兴趣加入 PyTorch 生态系统，请加入！
六月在法国巴黎，我们首映了官方 PyTorch 纪录片，该片讲述了 PyTorch 如何赋能 AI 革命，聚焦 PyTorch 充满活力的生态系统及其在推动 AI 创新中的作用。影片揭示了 PyTorch 诞生的真实故事，将其存在归功于一群默默推动技术创新的无名英雄。
2024 年 PyTorch 大会的注册人数是 2023 年的三倍，这反映了围绕开源技术的 AI 和机器学习社区的快速增长。为期两天的活动包括富有洞察力的演讲、实践环节以及关于 AI 未来发展方向的热烈讨论，涵盖从生成式 AI 到大型语言模型等方方面面。
全新的初创企业展示（Startup Showcase）环节中，早期创业公司的创始人们向顶级风险投资家小组推介其 AI 初创项目；深度学习（DL）编译器迷你峰会深入探讨了正在改变 AI 工作负载的深度学习（DL）编译器的最新进展；微调迷你峰会汇聚了蓬勃发展的研究人员、开发者、实践者和爱好者的社区，共同讨论内存效率、参数高效微调和大规模性能等话题。
杰出贡献者荣获了PyTorch 贡献者奖。祝贺今年的提名者和获奖者，他们是本年度在 PyTorch 发展历程中发挥了关键作用的杰出个人和团队。
PyTorch 基金会会员正在壮大，今年新增了 Arm 和 Rebellions。截至年底，高级会员（Premier Members）包括：AMD、Arm、AWS、Google Cloud、华为、Hugging Face、IBM、Intel、Lightning AI、Meta、Microsoft Azure 和 NVIDIA。普通会员（General Members）包括：Graphcore、Rebellions 和 Snowflake。如果您的组织有兴趣加入，请了解如何成为 PyTorch 基金会会员。
PyTorch 举办了众多线下和线上活动，包括PyTorch 文档马拉松，贡献者在此协作改进 PyTorch 文档；世界各地的本地聚会聚集了从上海到首尔等地的相关人士；以及我们在夏季网络研讨会系列、现场问答和专家交流活动期间举办的十多次网络研讨会，吸引了来自各地的参与者。
PyTorch 基金会今年迎来了新的领导层。执行董事 Matt White 于四月上任，并立即着手提升 PyTorch 在整个 AI 领域的知名度。技术咨询委员会 (TAC) 也选举产生了新的领导层，Luca Antiga (Lightning AI) 担任主席，龚炯 (Intel) 担任副主席。
PyTorch 管理委员会继续为基金会设定方向并领导其完成使命。PyTorch 市场和外联委员会制定了计划，以最大限度地提高 PyTorch 的知名度并促进社区的利益。PyTorch CI 工作组成立，成功地将 PyTorch 的 CI 流水线迁移到 Linux 基金会。
我们的社区通过社交媒体与我们保持联系，在 X、LinkedIn、Facebook 和 YouTube 上共有 77.5 万强大关注者，全年 PyTorch 内容的总展示量超过 1200 万。PyTorch 生态系统也在不断壮大，新增了许多项目，以利用 PyTorch 深度学习解决许多垂直领域的问题。
PyTorch 在顶级技术刊物中被媒体提及，例如 The New Stack 关于为何人人喜爱 PyTorch 的文章，以及 InfoWorld 关于 TorchAO PyTorch 库如何使模型更快、更小的文章。
我们全年共发布了 74 篇技术和社区博客，网站访问量接近一千万人次。
感谢每一位帮助我们取得今年巨大成功的人！PyTorch 在过去一年中经历的演进和增长，正是由这个卓越社区的热情、奉献和聪明才智所驱动。展望明年，我们很高兴能在此势头的基础上再接再厉，继续突破 AI 的界限。
请记住PyTorch 大会的日期，会议将于 2025 年 10 月 22-23 日在旧金山举行。2025 年有望带来更大的创新和更强的社区协作。
