随着新一年的到来,现在正是回顾 2024 年 PyTorch 基金会那些令人难忘的社区活动的绝佳时刻。全球各地的聚会、活动和会议将社区成员汇聚在一起,共同学习、交流并成长。以下是这一年的精彩回顾,以及对 2025 年的展望。

PyTorch 西雅图聚会 (5月23日)
5 月,我们在 Meta 贝尔维尤办公室举办了一场 PyTorch 聚会。Meta、微软和谷歌的代表发表了技术演讲,约 60 名与会者参与了讨论和交流。
PyTorch Docathon 2024 (6月4日至20日)
PyTorch Docathon(文档马拉松)迎来了第三届,在 6 月份持续了超过两周。这一独特的活动旨在通过全球社区成员的贡献来改进 PyTorch 文档。文档是任何成功的开源项目的基石,PyTorch Docathon 促进了包容性和协作,使新用户更容易上手该框架,同时也让经验丰富的开发者能够最大化发挥其潜力。2024 年的 Docathon 合并了超过 50 个拉取请求 (Pull Requests),充分体现了 PyTorch 社区的协作精神及其在提升易用性和可访问性方面的承诺。点击在 YouTube 上观看 PyTorch Docathon 启动仪式。

PyTorch 上海聚会 (8月15日)
8 月,PyTorch 上海聚会将中国上海的开发者、研究人员和爱好者汇聚在一起。此次活动提供了一个知识共享平台,包含了精彩的演讲和交流机会。会议亮点包括 PyTorch 最新进展的深入见解、展示创新用例的社区主导演讲,以及促进参会者之间协作的交流环节。

PyTorch Conference 2024 (9月18日至19日)
在旧金山举办的 PyTorch 大会无疑是今年最重要的活动之一。这场为期两天的聚会汇集了顶尖的研究人员、开发者和学术界人士,促进了机器学习领域的协作与创新。

精彩亮点
- 行业领袖和 PyTorch 维护者带来的主题演讲。
- 涵盖 PyTorch 端到端机器学习能力的深度课程。
- 动手实践工作坊和分组会议。
- 展示尖端工具和应用的活力展区。
- 创业展示环节,早期初创公司创始人向顶尖风投专家小组进行项目推介。
- 深度学习编译器小型峰会 (DL Compiler Mini-Summit),深入探讨了正在改变 AI 工作负载的深度学习编译器的进展。
- 微调小型峰会 (Fine-Tuning Mini-Summit),涵盖了从内存效率、参数高效微调和量化,到大规模性能优化和可重复评估等各个方面。
- 海报展示环节,展示了 PyTorch 在模型优化、硬件集成、生成式 AI、量化以及提升性能和易用性工具方面的创新,并汇集了来自行业领袖的贡献。
大会对促进协作的关注,进一步彰显了 PyTorch 作为开源机器学习社区驱动力的角色。错过了吗?您可以观看 PyTorch Conference 2024 播放列表来补全错过的会议内容。

GPU MODE IRL 黑客松 (9月21日)
PyTorch 在旧金山线下赞助了这场聚会。与会者在这里结识朋友、观看主题演讲、全天候黑客松、通过午后的演讲休息放松,并在整晚持续开发。我们了解了 torchao(我们新的量化和稀疏性库)、在生产环境中部署 PyTorch 模型的 vLLM、llm.c 等内容。主要收获包括:GPU Mode IRL 黑客松的冠军项目灵感来自 PyTorch FlexAttention,旨在改进 CUTLASS;Triton 中的 NCCL 将通过在纯 Python 中最小化重构 NCCL 来帮助我们实现分布式编程;移除 libtorch PyTorch 二进制文件可显著缩小设备端部署的二进制文件体积。

消费级 AI 设备端黑客松 (11月22日至23日)
PyTorch 团队在巴黎的一场黑客松中担任导师和教练,该活动由 Hugging Face、Scaleway 和 Entrepreneur First 共同赞助,挑战各团队利用 Hugging Face、PyTorch 和其他开源设备端工具与模型,创建创新的消费级 (B2C) 应用。来自 22 个团队的 120 多名人员奋战 2 天(和通宵!),基于开源模型和工具构建 AI 驱动的未来设备端解决方案。参与者利用 PyTorch、ExecuTorch 和 Hugging Face 资源,创造了诸如设备端瑜伽教练、神奇的故事伴侣以及手机上的类似 Kinect 的体验等创新应用。PyTorch 团队计划于 2025 年在其他地区举办类似的活动,聚焦创新的设备端 AI 应用。

PyTorch 韩国用户组聚会 (11月30日)
PyTorch 韩国用户组成立于 2018 年,是一个致力于向韩语用户推广 PyTorch 并共同成长的社区。该小组起初翻译了 PyTorch 0.3 的教程,此后一直支持 PyTorch 在韩国的发展。该小组专注于三项主要活动:
- 分享 PyTorch 学习和应用知识,
- 分享人工智能领域的见解和经验,以及
- 通过线上和线下交流促进共同成长。
PyTorch 韩国用户组每月覆盖数万名韩国 AI 开发者。如果您对他们的活动感兴趣,请查看以下链接:

PyTorch 韩国用户组为今年计划了三项主要活动:
- PyTorch CoreSIG
自 2024 年 12 月起,这项每周一次的在线活动于每周三下午举行。在 PyTorch 成员公司 Rebellions 的首席安全官 Kim Hong-Seok 的领导下,该活动提供了有关 PyTorch 内部原理的深度知识和经验。每周约有 150 名韩国开发者参加,反映了韩国对 PyTorch 核心开发的兴趣日益浓厚。 - 线下聚会
这些聚会提供了分享 PyTorch 和人工智能领域见解与经验的机会,同时也促进了交流。今年计划举行 3-4 场会议,专注于 PyTorch 和 AI 的核心议题。 - 在线社区互动
这项活动涉及分享和讨论 AI 领域的各种项目和论文。更多信息,请访问:https://discuss.pytorch.kr。
NeurIPS 2024 开源 AI 之夜 (12月10日)
PyTorch 基金会与 The Fin AI 和 Open Finance Foundation 在 NeurIPS 期间共同举办了一场社交活动,探讨了开源 AI 及其在金融领域的应用。

PyTorch 网络研讨会 (Webinars)
2024 年全年,PyTorch 举办了以下虚拟网络研讨会:
专家交流系列
- 批处理在现代 CPU 上是如何工作的?
- DistServe:分离预填充 (Prefill) 和解码 (Decoding) 以实现高吞吐的 LLM 推理
- 使用 Attention Sinks 的高效流式语言模型
- 使用 Open-Instruct 和 Tulu 适配开源模型
- 高效生成式模型:从稀疏推理到分布式推理
夏季系列
- 使用 PyTorch 进行单目深度估计网络研讨会
- 使用 KleidiAI 在基于 Arm Neoverse 的 AWS Graviton 处理器上加速 LLM 系列模型
- torch.compile:缺失的手册
发布直播问答 (Q&A)
直播研讨会
每一场活动都强调了协作和社区参与在推动 AI 研究和应用方面的重要性。感谢每一位参与、组织并支持这些活动的人——你们的贡献意义非凡!
展望未来
2024 年充满了交流、学习和贡献的机会,在 2025 年,我们将会有更多方式与 PyTorch 社区建立联系。
记下日期!PyTorch 大会将于 2025 年 10 月 22-23 日回到旧金山。准备好迎接一场精彩的活动吧,其中将包含技术深度解析、激动人心的公告、富有洞察力的会议以及更多增强社区协作的机会。
请订阅我们的时事通讯,以随时获取即将举行的活动和参与机会的最新动态。