过去一年对于 PyTorch 而言是里程碑式的一年，从重要版本发布到旗舰级的 PyTorch 大会，均取得了显著成就。我们见证了来自 3500 多名个人和 3000 家组织的贡献令人难以置信的增长。可以说，PyTorch 现已成为 AI/ML 领域主导的深度学习框架。根据 Linux 基金会最近发布的《塑造生成式 AI 未来报告》，PyTorch 在模型训练领域的采用率高达 63%。
PyTorch 基金会成立于 2022 年，旨在通过培育和维护一个以 PyTorch 为中心的开源、供应商中立项目生态系统来推动 AI 工具的采用，如今它仍然是一个由深度学习社区创建并为其服务的充满活力、协作的中心。在年终之际，让我们回顾一下今年的几个亮点，看看这一年是如何实现增长、协作、创新和社区建设的。
2024 年亮点：增长与影响力之年
PyTorch 今年的增长加速。与去年相比，全球贡献组织数量增加了一倍，贡献增长了 133%。
该项目使用 PyTorch 的新存储库同比增长 20%，过去一年分支和用户数量增长了 30%。
目前超过 70% 的 AI 研究实现都使用 PyTorch。
数据基于2024 年 Linux 基金会年度报告。
PyTorch 工具生态系统增长超过 25%，软件和硬件功能均得到增强。PyTorch 与所有主要云服务提供商、数十家主要软件供应商和行业合作伙伴合作，为 AI 创新的速度和广度树立了新的标杆。
今年 PyTorch 发布了 4 个里程碑版本：2.2、2.3、2.4 和 2.5。我们见证了各种标志性功能的发布，例如AOTInductor、FlashAttention-2 支持、张量并行（Tensor Parallelism）、新的Python 自定义运算符 API 以及FlexAttention 的引入。来自 PyTorch 基金会成员公司的工程师们也齐心协力，为英特尔 GPU (XPU)、AWS Graviton 处理器、Inductor 性能等平台引入了支持和优化。
在过去的一年中，PyTorch 团队一直致力于推出许多新的 PyTorch 原生库！ExecuTorch 团队与 Arm、Apple 和 Qualcomm Technologies, Inc. 的合作伙伴合作发布了他们的 alpha 版本，随后迅速推出了专注于稳定性和增加联发科支持的beta 版本。TorchTune 建立了一个 PyTorch 原生库，用于轻松微调大型语言模型。TorchAO 引入了一个 PyTorch 原生库，通过利用低位数据类型、量化和稀疏性使模型更快、更小。TorchCodec 推出，为开发人员提供了一种简单、高性能和 PyTorch 原生的方式将视频解码为张量。TorchRec 1.0 发布，这是 PyTorch 原生推荐系统库的第一个稳定版本。
在过去的一年里，我们还举办了多次强有力的技术展示，以突出 PyTorch 的使用方式！TorchTitan 展示了开源、PyTorch 原生分布式训练系统在训练大型语言模型 (LLM) 方面的潜力。TorchChat 展示了如何在笔记本电脑、台式机和移动设备上无缝高效地运行 LLM。
此外，我们非常高兴在 2024 年将多个新项目纳入 PyTorch 生态系统，其中包括将最先进的推理引擎vLLM 引入 PyTorch 生态系统，它为机器学习工程师提供了一种简单、快速且经济高效的 LLM 服务方式。如果您有兴趣加入 PyTorch 生态系统，请加入我们！
六月在法国巴黎，我们首映了官方 PyTorch 纪录片，该片探讨了 PyTorch 如何推动人工智能革命，并突出了 PyTorch 充满活力的生态系统及其在推进人工智能创新中的作用。影片揭示了 PyTorch 诞生的真实故事，将其存在归功于一群致力于推动技术创新的无名英雄。
2024 年 PyTorch 大会的注册人数是 2023 年的三倍，这反映了人工智能和机器学习社区围绕开源技术的快速发展。为期两天的活动包括富有洞察力的演讲、实践环节和关于人工智能未来的热烈讨论，涵盖了从生成式人工智能到大型语言模型的所有内容。
全新的创业公司展示环节，让早期创始人向顶级风险投资家小组推销他们的人工智能初创公司；深度学习编译器小型峰会深入探讨了正在改变人工智能工作负载的深度学习 (DL) 编译器进展；微调小型峰会汇集了一个充满活力的研究人员、开发人员、从业者和爱好者社区，讨论了内存效率、参数高效微调和规模化性能等主题。
杰出贡献者荣获PyTorch 贡献者奖。祝贺今年的提名者和获奖者，感谢这些杰出的个人和团队在 PyTorch 今年发展历程中发挥的关键作用。
今年 PyTorch 基金会的会员数量持续增长，新增了 Arm 和 Rebellions。截至年底，高级会员包括：AMD、Arm、AWS、Google Cloud、华为、Hugging Face、IBM、英特尔、Lightning AI、Meta、Microsoft Azure 和 NVIDIA。普通会员包括：Graphcore、Rebellions 和 Snowflake。如果您的组织有兴趣加入，请了解如何成为 PyTorch 基金会会员。
PyTorch 举办了众多线下和线上活动，包括PyTorch 文档马拉松，贡献者们在此努力改进 PyTorch 文档并促进协作；世界各地的本地聚会汇集了从上海到首尔等地的感兴趣人士；在我们的夏季网络研讨会系列、现场问答和专家交流活动中，十多场网络研讨会吸引了来自各地的参与者。
PyTorch 基金会今年迎来了新领导层。执行董事 Matt White 于四月上任，并立即开始提升 PyTorch 在人工智能领域的知名度。技术咨询委员会 (TAC) 也选举了新领导层，由 Lightning AI 的 Luca Antiga 担任主席，英特尔的 Jiong Gong 担任副主席。
PyTorch 管理委员会继续为基金会设定方向并领导其完成使命。PyTorch 营销与外联委员会制定了旨在最大限度地提高 PyTorch 知名度并促进社区利益的计划。PyTorch CI 工作组成立，成功地将 PyTorch CI 管道迁移到 Linux 基金会。
我们的社区在社交媒体上拥有 77.5 万的强大粉丝群体，遍布 X、LinkedIn、Facebook 和 YouTube，全年 PyTorch 内容的曝光量超过 1200 万。PyTorch 生态系统也在不断发展，增加了许多新项目，以在多个垂直领域利用 PyTorch 深度学习。
PyTorch 在各大科技出版物中被提及，例如 The New Stack 关于为何 PyTorch 如此受欢迎的文章，以及 InfoWorld 关于 TorchAO PyTorch 库如何让模型更快更小的文章。
我们发布了 74 篇技术和社区博客，全年有近千万人访问了 PyTorch 网站。
感谢每一位帮助我们取得今年杰出成就的人！ PyTorch 在过去一年中经历的演变和成长，都源于这个令人惊叹的社区所拥有的热情、奉献和创造力。展望明年，我们很高兴能在此势头之上再接再厉，继续突破人工智能的界限。
请记下PyTorch 大会的日期，它将于 2025 年 10 月 22 日至 23 日在旧金山举行。2025 年有望实现更大的创新和更强的社区协作。