3 月底，PyTorch 韩国用户组举办了一场特别聚会，邀请了多位重量级嘉宾，围绕 PyTorch 核心及其广泛的生态系统进行了深入探讨。本次活动的规模是过去聚会的两倍多，使我们能够与更多的开发者建立联系并分享见解。非常感谢 goorm 为我们提供了精彩的场地！😄
这篇回顾旨在为未能亲临现场的朋友，以及希望重温当日热情与干货的参与者们提供参考。活动汇集了 PyTorch 核心、AI 加速器、推理优化以及大语言模型开发领域的专家。以下是支撑起本次会议的各场关键议题概述。
1️⃣ Jerry Lee | PyTorch 基金会
作为 Linux 基金会下属 PyTorch 基金会的代表，Jaeung 概述了 PyTorch 如何推动核心开源技术的发展。他分享了 PyTorch 的成长历程、目前正在进行的众多全球项目，以及该生态系统令人印象深刻的 20% 以上的年增长率。会议还涵盖了基金会的运作方式、成员组织的参与机制，以及对从业者特别有用的未来规划。
2️⃣ Alban Desmaison | PyTorch 路线图
Alban 分享了 PyTorch 的设计理念以及 Meta 的官方贡献路线图（链接）。他深入剖析了 Eager 模式与 Compiled 模式的区别，特别是详细讲解了设备 Eager 执行的后端架构。此外，他还介绍了内存分析器、增强的自定义算子支持以及固定内存（pinned memory）优化等实用工具和改进措施。
3️⃣ Hongseok Kim | PyTorch 在 Rebellions AI 加速器上的应用现状
Rebellions 正在为其专有的 NPU 架构构建运行时集成，以完全适配 PyTorch 2.0 的架构变更。本次演讲介绍了其即将推出的芯片的性能与可扩展性、与 PyTorch 运行时的集成策略，以及在支持 Eager 模式时所面临的挑战。Hongseok 还预告了他们在年内发布这些功能的路线图。
4️⃣ Kyujin Cho | Backend.AI：面向所有 AI 加速器的统一平台
Backend.AI 将各种 AI 加速器抽象并集成到一个统一的工作流中。随着加速器架构的多样性日益增长，对可移植性和基础设施统一的需求变得愈发重要。本次会议展示了从 NPU 调度、资源分配到监控等贯穿开发与运维的功能。Backend.AI 目前支持来自 NVIDIA、Intel、Tenstorrent、Rebellions 等厂商的加速器。
5️⃣ Taeho Kim | 使用 NetsPresso 在多种芯片组上优化与部署模型
本次演讲聚焦于 AI 模型在真实工业应用场景中进行推理的挑战。随着新的 SOTA（先进）模型不断涌现，业界越来越需要能够快速验证设备兼容性的环境——最好能实现“一键式”操作。NetsPresso 正在积极开发与 PyTorch 兼容的静态图表示，为模型开发、优化和测试提供高效支持。
6️⃣ Jungyeop Lee | 复现 Deepseek-R1 之旅
Jungyeop 分享了他复现大语言模型 Deepseek 的历程，这涉及了 201 次实验。他分享了使用韩国语料进行训练的实战经验、分词器（tokenizer）的修改，以及微调策略。对于那些正尝试从零开始构建或重现大模型的开发者来说，他的实践见解和后续步骤极具参考价值。
7️⃣ Sol Kim | 从 TCP 架构到生产级 LLM 的旅程
Sol 展示了一种使用 TCP（张量收缩处理器，Tensor Contraction Processor）架构部署大模型的综合优化方法，该架构在硬件层面支持张量收缩。演讲重点介绍了构建在硬件抽象层（HAL）之上的优化技术，以及与 PyTorch 的自下而上集成策略，提供了一种硬件与软件相结合的视角。
💡 小组讨论与问答 💡
活动最后进行了引人入胜的小组讨论。与会者提出了尖锐的问题，演讲者们也给出了深刻的见解。这不仅是展现社区对 PyTorch 的热情，更是对深层技术知识的渴求。
结语
自 2022 年 10 月举办首场线下聚会以来，PyTorch 韩国用户组已经举办了五次大型技术会议。每一次活动都让我们对 PyTorch 生态系统的规模和深度有了更深刻的理解。通过用户、贡献者和生态建设者的视角，我们分享的故事在不断丰富，我们也致力于继续这段旅程。
期待在下次会议与大家相见，届时会有更多精彩的演讲！🙌