过去的一年对于 PyTorch 来说是里程碑式的一年，从重大版本发布到旗舰级的 PyTorch 大会。我们看到了来自超过 3500 名个人和 3000 个组织的贡献的惊人增长。可以说，PyTorch 现在已经成为 AI/ML 领域的主导深度学习框架。根据 Linux 基金会最近发布的《塑造生成式 AI 的未来报告》，PyTorch 在模型训练领域以 63% 的采用率遥遥领先。
PyTorch 基金会成立于 2022 年，旨在通过培育和维护一个围绕 PyTorch 的开源、厂商中立项目生态系统来推动 AI 工具的普及，如今它仍然是一个充满活力、协作共赢的中心，为深度学习社区而生，也由深度学习社区创建。在年终之际，让我们回顾一些亮点，看看这一年是如何成为增长、协作、创新和社区的一年。
2024 年亮点：增长与影响的一年
今年 PyTorch 加快了增长。与去年相比，全球贡献组织的数量翻了一番，贡献量增长了 133%。
该项目在使用 PyTorch 的新代码库方面实现了 20% 的同比增长，过去一年中分支和用户增加了 30%。
超过 70% 的 AI 研究实现现在都使用 PyTorch。
统计数据基于2024 年 Linux 基金会年度报告。
PyTorch 工具生态系统增长超过 25%，同时增强了软件和硬件功能。通过与所有主要的云服务提供商、数十家主要的软件供应商和行业合作伙伴合作，PyTorch 正在为 AI 创新的速度和广度设定新的标准。
今年 PyTorch 发布了 4 个里程碑版本：2.2、2.3、2.4 和 2.5。我们看到了各种标志性功能的发布，例如 AOTInductor、FlashAttention-2 支持、张量并行性、新的 Python 自定义操作符 API 以及 FlexAttention 的引入。来自 PyTorch 基金会成员公司的工程师们也齐心协力，为 Intel GPU (XPU)、AWS Graviton 处理器、Inductor 性能等平台引入了支持和优化。
在这一年中，PyTorch 团队一直致力于引入一系列新的 PyTorch 原生库！ExecuTorch 团队与 Arm、Apple 和 Qualcomm Technologies, Inc. 的合作伙伴合作发布了他们的 alpha 版本，然后迅速推出了一个专注于稳定性和增加 MediaTek 支持的beta 版本。TorchTune 建立了一个 PyTorch 原生库，用于轻松微调大型语言模型。TorchAO 引入了一个 PyTorch 原生库，通过利用低位数据类型、量化和稀疏性来使模型更快、更小。TorchCodec 推出，为开发人员提供了一种简单、高性能的 PyTorch 原生方式来将视频解码为张量。TorchRec 1.0 发布，这是 PyTorch 原生推荐系统库的第一个稳定版本。
在这一年中，我们还举办了多次强有力的技术展示，以突出 PyTorch 的应用方式！TorchTitan 展示了开源、PyTorch 原生分布式训练系统如何用于训练大型语言模型 (LLM)。TorchChat 展示了如何在笔记本电脑、台式机和移动设备上无缝高效地运行 LLM。
此外，我们非常高兴在 2024 年将多个新项目纳入 PyTorch 生态系统，包括将最先进的推理引擎 vLLM 引入 PyTorch 生态系统，这为机器学习工程师提供了一种简单、快速且经济高效的 LLM 服务方式。如果您有兴趣加入 PyTorch 生态系统，请加入我们！
六月在法国巴黎，我们首映了官方 PyTorch 纪录片，讲述了 PyTorch 如何助力 AI 革命，并突出展示了 PyTorch 充满活力的生态系统及其在推动 AI 创新中的作用。影片揭示了 PyTorch 诞生的真实故事，将其存在归功于一群推动技术创新的无名英雄。
2024 年 PyTorch 大会的注册人数是 2023 年的三倍，这反映了围绕开源技术的 AI 和机器学习社区的快速增长。为期两天的活动包括富有洞察力的演讲、实践环节和关于 AI 未来的热烈讨论，涵盖了从生成式 AI 到大型语言模型的方方面面。
一个全新的创业展示环节，让早期创始人向顶级风险投资家小组推销他们的 AI 创业公司；深度学习编译器迷你峰会深入探讨了正在改变 AI 工作负载的深度学习 (DL) 编译器进展；微调迷你峰会汇集了一个蓬勃发展的研究人员、开发人员、实践者和爱好者社区，讨论了内存效率、参数高效微调和规模性能等话题。
杰出贡献者获得了PyTorch 贡献者奖。祝贺今年的提名者和获奖者，感谢那些在 PyTorch 今年发展历程中发挥关键作用的杰出个人和团队。
PyTorch 基金会会员今年新增了 Arm 和 Rebellions。截至年底，高级会员包括：AMD、Arm、AWS、Google Cloud、华为、Hugging Face、IBM、英特尔、Lightning AI、Meta、微软 Azure 和 NVIDIA。普通会员包括：Graphcore、Rebellions 和 Snowflake。如果您的组织有兴趣加入，请了解如何成为 PyTorch 基金会会员。
PyTorch 举办了众多线下和线上活动，包括PyTorch 文档马拉松，贡献者们在其中努力改进 PyTorch 文档并促进协作；世界各地的本地见面会汇集了从上海到首尔等地的兴趣团体；以及十多个网络研讨会，在我们的夏季网络研讨会系列、实时问答和专家交流中吸引了来自各地的参与者。
PyTorch 基金会今年迎来了新领导层。执行董事 Matt White 于 4 月上任，并立即开始提升 PyTorch 在整个 AI 领域的知名度。技术咨询委员会 (TAC) 也选举了新领导层，由 Lightning AI 的 Luca Antiga 担任主席，Intel 的 Jiong Gong 担任副主席。
PyTorch 理事会继续为基金会设定方向并领导其完成使命。PyTorch 市场和外联委员会制定了计划，以最大限度地提高 PyTorch 的知名度并促进社区的利益。PyTorch CI 工作组成立并成功地将 PyTorch CI 管道迁移到 Linux 基金会。
我们的社区在社交媒体上拥有强大的 77.5 万粉丝，遍布 X、LinkedIn、Facebook 和 YouTube，全年 PyTorch 内容的曝光量超过 1200 万。PyTorch 生态系统也随之增长，新增了许多项目，利用 PyTorch 深度学习在多个垂直领域发挥作用。
PyTorch 在顶级科技出版物中被媒体提及，例如 The New Stack 关于PyTorch 为何备受青睐的文章，以及 InfoWorld 关于 TorchAO PyTorch 库如何使模型更快更小的文章。
我们发布了 74 篇技术和社区博客，全年有近千万人访问了 PyTorch 网站。
感谢所有帮助我们取得今年杰出成功的人！PyTorch 在过去一年中经历的演变和增长，是由这个出色社区的热情、奉献和才华推动的。展望明年，我们很高兴能在此基础上再接再厉，继续推动 AI 的边界。
请记住 PyTorch 大会的日期，它将于 2025 年 10 月 22-23 日在旧金山举行。2025 年有望带来更大的创新和更强的社区协作。