公告博客

PyTorch 生态系统版图迎来 PhysicsNeMo、Unsloth、ONNX 和 KTransformers

作者: 2026年4月2日2026年4月15日暂无评论

PyTorch 生态系统工作组很高兴地欢迎多个新项目加入 PyTorch 生态系统版图,包括 PhysicsNeMo、Unsloth、ONNX 和 KTransformers。PyTorch 生态系统版图是一张囊括了扩展、集成或基于 PyTorch 构建的创新开源 AI 项目的地图。欢迎这些最新的 PyTorch 生态系统版图项目!

PyTorch 生态系统的新成员

PhysicsNeMo

NVIDIA PhysicsNeMo 是一个基于 PyTorch 的开源框架,旨在加速 AI 物理模型的开发,即面向科学和工程应用的物理感知型 AI 代理模型(Surrogate Models)。它旨在与现有的 PyTorch 生态系统无缝集成,提供了一套全面的工具包,用于构建、训练、微调和评估那些结合了物理定律(通过物理和几何信息)与模拟数据的代理模型。PhysicsNeMo 使开发者能够创建高保真代理模型,并针对计算流体力学 (CFD)、结构力学和气候科学等复杂领域执行实时模拟,而无需深入掌握传统的数值求解器。

对于 PyTorch 开发者而言,PhysicsNeMo 提供了熟悉且模块化的开发体验,具备一系列经过优化的预训练架构(包括神经算子、GNN、Transformer、扩散模型、PINN),以及专为物理约束定制的专业数据流水线、采样算法和损失函数。该框架专为企业级性能而设计,以处理大规模输入领域,使用户能够轻松地将训练任务从单个 GPU 扩展到多节点集群。凭借其开放且可扩展的设计,PhysicsNeMo 赋能社区在保持与标准 PyTorch 库和工具完全兼容的同时,快速原型设计并部署物理感知型 AI 解决方案。 

了解更多关于 PhysicsNeMo 的信息。

Unsloth

Unsloth 是一个用于在本地和数据中心硬件上运行、训练和强化学习开源模型的开源框架。Unsloth 提供 WebUI,支持文本、视觉、音频/TTS、嵌入(Embeddings)和强化学习(RL)领域的 500 多种模型,工作流涵盖从 LoRA / QLoRA 到全量微调、持续预训练和 FP8 训练。它还包括从 PDF、CSV 和 DOCX 文件自动创建数据集、训练可观测性,以及导出到 GGUF/llama.cpp 和 vLLM 等运行时环境。Unsloth 以代码库格式(Unsloth Core)和 WebUI 格式提供,支持在 MacOS、Windows、Linux 和 WSL 上运行。

借助定制的 Triton 和数学内核,Unsloth 旨在提高训练速度和内存效率,且不会降低准确性。Unsloth 利用 PyTorch 来实现模型训练,并使用 torch.compile 进行优化。Unsloth 还与 TorchAO 或量化感知训练、FP8 强化学习以及用于移动部署的 ExecuTorch 等功能协同工作。

了解更多关于 Unsloth 的信息。

ONNX

ONNX (Open Neural Network Exchange) 是一种用于表示机器学习模型的开放标准,实现了框架、编译器和运行时之间的互操作性。ONNX 最初由 Facebook(现 Meta)和微软于 2017 年创建,现已发展成为由 Linux 基金会托管的厂商中立型生态系统,获得了云计算提供商、硬件厂商和研究机构的广泛行业采纳。ONNX 规范定义了一组通用算子和标准文件格式,允许开发者在首选框架中训练模型,并将其部署到各种平台和设备上,而无需手动转换。

作为 PyTorch 生态系统的一部分,ONNX 在弥合模型开发与生产部署之间的差距方面发挥了关键作用。PyTorch 内置的 torch.onnx.export 功能允许用户无缝地将模型转换为 ONNX 格式,从而解锁对丰富的优化编译器和推理运行时生态系统的访问——从云服务器到边缘设备。凭借活跃的开源社区、每季度的发布节奏,以及在引入新算子、量化支持和大模型处理方面的持续工作,ONNX 继续作为机器学习基础设施堆栈中至关重要的一部分不断演进。

了解更多关于 ONNX 的信息。

KTransformers

KTransformers 是由清华大学和 Approaching.AI 发起的开源项目,旨在低显存场景下部署大语言模型(LLM)。随着 MoE(混合专家)架构扩展到数千亿甚至数万亿参数,认为所有模型组件都必须驻留在 GPU 上的假设已成为可访问性的主要障碍。大多数 MoE 专家在每个 token 上仅被稀疏激活,然而传统的服务系统将所有专家权重绑定在 GPU 内存中,浪费了大部分昂贵的加速器容量在闲置参数上。

KTransformers 通过 CPU-GPU 异构计算打破了这种绑定,结合了细粒度专家卸载、高性能 CPU 内核、NUMA 感知执行和动态专家调度。它还获得了包括 Kimi K2.5、Qwen3.5 和 MiniMax-M2.5 在内的多个领先开源模型团队的公开推荐,并已被用于为主要 MoE 模型发布提供“零日”异构推理支持。

了解更多关于 KTransformers 的信息。

如何加入 PyTorch 生态系统版图

如果您正在开发支持 PyTorch 社区的项目,欢迎申请加入生态系统版图。请在申请前查阅PyTorch 生态系统版图审查流程,以确保您符合最低预期要求。