博客社区

PyTorch 成为 AI 和 ML 领域主流开源框架:2024 年度回顾

作者 2024 年 12 月 23 日2025 年 9 月 4 日暂无评论

过去的一年对于 PyTorch 而言是具有里程碑意义的一年,从重大版本发布到 PyTorch 旗舰大会,我们见证了来自超过 3,500 名个人和 3,000 家机构的贡献,增长令人瞩目。可以说,PyTorch 现已成为人工智能/机器学习领域领先的深度学习框架。根据 Linux 基金会近期发布的《塑造生成式人工智能的未来》报告,PyTorch 在模型训练领域以 63% 的采用率处于领先地位。

group at a conference

PyTorch 基金会成立于 2022 年,其宗旨是通过培育和维持一个以 PyTorch 为核心的开源、供应商中立的项目生态系统,来推动人工智能工具的普及。今天,它依然是一个由深度学习社区创建并为社区服务的充满活力、协同合作的枢纽。在年末之际,让我们回顾一下今年的几大亮点,看看这一年如何体现了增长、协作、创新与社区的力量。

2024 年亮点:充满增长与影响力的一年

PyTorch 在今年加速了增长。贡献率提高了 133%,参与贡献的全球机构数量较去年翻了一番。

该项目使用 PyTorch 的新代码库数量同比增长了 20%,分叉(forks)和用户数在过去一年中增加了 30%。

目前超过 70% 的人工智能研究实现都在使用 PyTorch。

统计数据基于2024 年 Linux 基金会年度报告

people at a conference

PyTorch 工具生态系统增长了超过 25%,增强了软件和硬件的功能。通过与所有主要云服务提供商、数十家主流软件供应商及行业合作伙伴合作,PyTorch 正在为人工智能创新的步伐和广度树立新标杆。

people at a conference

今年 PyTorch 发布了 4 个里程碑版本:2.2、2.3、2.4 和 2.5 版本。我们见证了多项标志性功能的发布,如 AOTInductorFlashAttention-2 支持张量并行(Tensor Parallelism)、全新的 Python 自定义算子 API,以及 FlexAttention 的引入。来自 PyTorch 基金会成员公司的工程师们也齐心协力,为英特尔 GPU (XPU)、AWS Graviton 处理器、Inductor 性能等平台引入了支持和优化。

整整一年,PyTorch 团队都在努力推出一系列全新的 PyTorch 原生库!ExecuTorch 团队与来自 Arm、苹果和高通技术的合作伙伴协作发布了 alpha 版本,随后迅速推出了专注于稳定性和增加联发科支持的 beta 版本TorchTune 创建了一个用于轻松微调大语言模型的 PyTorch 原生库。TorchAO 引入了一个 PyTorch 原生库,通过利用低位数据类型、量化和稀疏性使模型更快、更小。TorchCodec 的发布为开发者提供了一种简单、高性能、PyTorch 原生的方式将视频解码为张量。TorchRec 1.0 发布,这是 PyTorch 原生推荐系统库的首个稳定版本。

我们今年还进行了多次强有力的技术展示,以突显 PyTorch 的用途!TorchTitan 展示了用于训练大语言模型(LLM)的开源 PyTorch 原生分布式训练系统是什么样子的。TorchChat 展示了如何在笔记本电脑、台式机和移动设备上无缝且高性能地运行大语言模型。

同样,我们非常激动地在 2024 年将多个新项目纳入 PyTorch 生态系统,包括将最先进的推理引擎 vLLM 引入 PyTorch 生态系统,这为机器学习工程师提供了一种简单、快速且低成本的服务 LLM 的方式。如果您有兴趣加入 PyTorch 生态系统,请加入我们

people at a conference

6 月在法国巴黎,我们首映了关于推动 AI 革命的官方 PyTorch 纪录片,聚焦于 PyTorch 充满活力的生态系统及其在推动 AI 创新中的作用。该影片揭示了 PyTorch 诞生的真实叙事,将其存在归功于一群致力于推动技术创新的幕后英雄。

people at a conference

2024 PyTorch 大会的注册人数相比 2023 年翻了三倍,反映了围绕开源技术的人工智能和机器学习社区的快速增长。为期两天的活动包括了富有洞察力的演讲、实践环节以及关于人工智能未来的热烈讨论,涵盖了从生成式 AI 到大语言模型的方方面面。

全新的创业展示环节让初创公司创始人向顶级风险投资人小组展示了他们的 AI 初创项目;深度学习编译器小型峰会深入探讨了正在改变 AI 工作负载的深度学习(DL)编译器进展;微调小型峰会汇聚了繁荣的研究人员、开发者、从业者和爱好者社区,共同探讨了内存效率、参数高效微调和规模化性能等课题。

speaking on stage at a conference

杰出贡献者获得了 PyTorch 贡献者奖。祝贺今年获得提名的个人和团队,他们是今年 PyTorch 历程中不可或缺的关键力量。

people at a conference

PyTorch 基金会成员今年新增了 Arm 和 Rebellions。截至年底,高级会员包括:AMD、Arm、AWS、Google Cloud、华为、Hugging Face、IBM、英特尔、Lightning AI、Meta、微软 Azure 和 NVIDIA。普通会员包括:Graphcore、Rebellions 和 Snowflake。如果您的组织有兴趣加入,请了解如何成为会员

PyTorch 举办了众多线下和线上活动,包括PyTorch Docathon(文档马拉松),贡献者们在此致力于改进 PyTorch 文档并促进协作;全球各地的本地聚会汇集了从上海到首尔的志同道合者;以及在夏季系列网络研讨会、实时问答和专家交流中,十多场网络研讨会吸引了来自世界各地的参与者。

Matt speaking at a conference

PyTorch 基金会在今年迎来了新领导层。执行董事 Matt White 于 4 月接手,并立即开始在整个 AI 领域提升 PyTorch 的形象。技术咨询委员会(TAC)也选举了新一届领导层,由 Lightning AI 的 Luca Antiga 担任主席,英特尔的 Jiong Gong 担任副主席。

PyTorch 理事会继续为基金会设定方向并领导其实现使命。PyTorch 营销与外联委员会制定了相关计划,以最大限度地提高 PyTorch 的知名度并推进社区利益。PyTorch CI 工作组成立,旨在成功将 PyTorch CI 流水线迁移到 Linux 基金会。

我们的社区在社交媒体上与我们互动,在 X、LinkedIn、Facebook 和 YouTube 上拥有 77.5 万名关注者,全年 PyTorch 内容获得了超过 1200 万次的展示量。PyTorch 生态系统也进一步扩大,增加了许多新项目,以充分利用 PyTorch 在众多垂直领域的深度学习能力。

people at a conference

PyTorch 在主流科技媒体中屡获提及,例如 The New Stack 的文章《为什么 PyTorch 备受青睐》,以及 InfoWorld 关于 TorchAO 《PyTorch 库如何让模型更快、更小》的文章。

我们全年发布了 74 篇技术和社区博客,PyTorch 网站的全年访问量接近一千万人次。

fire dancers at a conference

感谢每一位帮助这一年取得巨大成功的人!PyTorch 在过去一年中经历的演进和增长,是由这个非凡社区的热情、奉献和独创性所驱动的。展望明年,我们非常激动能够在此基础上继续前行,不断拓展人工智能的边界。

请预留时间参加将于 2025 年 10 月 22 日至 23 日在旧金山举行的 PyTorch 大会。2025 年注定会带来更大的创新和更强大的社区协作。