随着我们迈入新的一年,这是一个回顾 2024 年 PyTorch 基金会难忘社区活动的绝佳时刻。全球各地的见面会、活动和大会将社区成员聚集在一起,共同学习、联系和成长。以下是本年度亮点以及 2025 年展望的快速回顾。
PyTorch 西雅图见面会(5 月 23 日)
我们于五月在西雅图 Meta Bellevue 办公室举办了 PyTorch 见面会,Meta、微软和 Google 发表了技术演讲,约 60 名与会者参与了讨论和交流。
PyTorch 文档马拉松 2024(6 月 4 日至 20 日)
PyTorch 文档马拉松迎来了第三届,于六月持续了两周多。这项独特的活动专注于通过全球社区成员的贡献来改进 PyTorch 的文档。文档是任何成功的开源项目的支柱,PyTorch 文档马拉松促进了包容性和协作,使新用户更容易采用该框架,也使经验丰富的开发者能够最大限度地发挥其潜力。2024 年的文档马拉松促成了 50 多个合并的拉取请求,证明了 PyTorch 社区的协作精神及其致力于提高可访问性和可用性的承诺。观看 PyTorch 文档马拉松启动会 在 YouTube 上。
PyTorch 上海见面会(8 月 15 日)
八月,PyTorch 上海见面会 在中国上海聚集了开发者、研究人员和爱好者。本次活动提供了一个知识分享的平台,包括引人入胜的讲座和交流机会。议程亮点包括对 PyTorch 最新进展的深入见解、展示创新用例的社区主导演示以及促进与会者之间协作的交流环节。
PyTorch 大会 2024(9 月 18-19 日)
在旧金山举行的 PyTorch 大会无疑是本年度最重要的活动之一。这次为期两天的聚会汇聚了顶尖的研究人员、开发者和学术界人士,促进了机器学习领域的协作与创新。
精彩之处
- 行业领导者和 PyTorch 维护者的主题演讲。
- 涵盖 PyTorch 端到端机器学习能力的深入议程。
- 动手实践工作坊和分组会议。
- 充满活力的展区,展示尖端工具和应用。
- 初创公司展示,早期创始人向顶尖风险投资家小组推介其 AI 初创公司。
- DL 编译器迷你峰会,深入探讨正在改变 AI 工作负载的深度学习 (DL) 编译器的进展。
- 微调迷你峰会,涵盖从内存效率、参数高效微调和量化到规模化性能和可复现评估的所有内容。
- 海报环节,展示 PyTorch 的创新成果,包括模型优化、硬件集成、生成式 AI、量化以及提升性能和可用性的工具,并有行业领导者贡献的内容。
会议着重于促进协作,强调了 PyTorch 作为开源 ML 社区驱动力的作用。错过了?您可以观看 PyTorch 大会 2024 播放列表,回看您可能错过的任何议程。
GPU MODE IRL 黑客松(9 月 21 日)
PyTorch 赞助了在旧金山举办的这次线下见面会,与会者在此结交朋友、观看主题演讲、全天进行黑客松活动、下午进行讲座休息,然后通宵进行黑客松活动。我们听取了关于 torchao(我们新的量化和稀疏库)、vLLM(用于在生产环境中部署 PyTorch 模型)、llm.c 等的介绍。主要收获包括:GPU Mode IRL 黑客松一等奖获得者的灵感来自于 PyTorch FlexAttention,用于改进 CUTLASS;Triton 中的 NCCL 有助于我们使用纯 Python 中最少的 NCCL 重新实现进行分布式编程;无 libtorch 的 PyTorch 二进制文件显著减小了设备端部署的二进制文件大小。
消费级 AI 边缘计算黑客松(11 月 22-23 日)
PyTorch 团队在巴黎的一场黑客松中担任导师和教练,该活动由 Hugging Face、Scaleway 和 Entrepreneur First 共同赞助,挑战各团队利用 Hugging Face、PyTorch 及其他开源设备端工具和模型创建创新的消费级 (B2C) 应用。来自 22 个团队的 120 多人连续两天(和两夜!)进行黑客松活动,基于开源模型和工具构建 AI 驱动的设备端解决方案的未来。参与者利用 PyTorch、ExecuTorch 和 Hugging Face 的资源,创造了创新的应用,例如设备端瑜伽教练、神奇的故事讲述伴侣以及将 Kinect 般的体验带到手机上。PyTorch 团队计划在 2025 年在其他地区围绕创新的设备端 AI 应用举办类似活动。
PyTorch 韩国用户组见面会(11 月 30 日)
PyTorch 韩国用户组成立于 2018 年,是一个致力于向韩语用户介绍 PyTorch 并共同成长的社区。该用户组最初将 PyTorch 0.3 教程翻译成韩语,此后一直支持 PyTorch 在韩国的发展。该用户组主要开展三项活动
- 分享 PyTorch 学习和应用的知识,
- 分享人工智能领域的见解和经验,以及
- 通过线上和线下交流促进共同成长。
PyTorch 韩国用户组每月触达数万名韩国 AI 开发者。如果您对他们的活动感兴趣,请查看以下链接
PyTorch 韩国用户组今年计划开展三项主要活动
- PyTorch CoreSIG
自 2024 年 12 月以来,这项每周一次的线上活动于每周三下午举行。该活动由 Rebellions(一家 PyTorch 成员公司)的 CSO Kim Hong-Seok 领导,提供关于 PyTorch 内部机制的深入知识和经验。每周约有 150 名韩国开发者参与,反映了韩国对 PyTorch 核心开发的兴趣日益增长。 - 线下见面会
这些见面会提供了分享 PyTorch 和人工智能领域见解及经验的机会,同时也能进行交流。今年计划举办约 3-4 场活动,重点关注 PyTorch 和 AI 领域的关键主题。 - 线上社区参与
这项活动涉及分享和讨论人工智能领域的各种项目和论文。欲了解更多信息,请访问:https://discuss.pytorch.kr。
NeurIPS 2024 开源 AI 之夜(12 月 10 日)
PyTorch 基金会与 The Fin AI 和 Open Finance Foundation 在 NeurIPS 共同举办了一场社交活动,活动围绕开源 AI 及其在金融领域的应用展开了引人入胜的讨论。
PyTorch 网络研讨会
2024 年全年,PyTorch 举办了以下线上网络研讨会
专家交流
- 现代 CPU 上的批处理是如何工作的?
- DistServe:分离预填充和解码以优化 LLM 推理的有效吞吐量
- 基于 Attention Sinks 的高效流式语言模型
- 使用 Open-Instruct 和 Tulu 适配开源模型
- 高效生成模型:从稀疏推理到分布式推理
夏季系列
- 使用 PyTorch 进行单目深度估计网络研讨会
- 使用 KleidiAI 在基于 Arm Neoverse 的 Graviton AWS 处理器上加速 LLM 系列模型
- torch.compile:遗失的手册
发布直播问答
直播网络研讨会
所有这些活动都强调了协作和社区参与在推动 AI 研究和应用方面的重要性。感谢所有参与、组织和支持这些活动的人——你们的贡献至关重要!
展望未来
2024 年充满了联系、学习和贡献的机会,而 2025 年将有更多与 PyTorch 社区建立联系的方式。
请标记您的日历!PyTorch 大会 将于 2025 年 10 月 22-23 日重返旧金山。准备好迎接一场激动人心的盛会吧,活动将包含技术深入探讨、振奋人心的公告、富有洞见的议程以及增强社区协作的机会。
请持续关注更多即将到来的活动和参与机会,通过订阅我们的新闻通讯。