2025 年 1 月 22 日
汇聚 PyTorch 社区
在我们迈入新的一年之际,现在是回顾 2024 年为 PyTorch 基金会带来难忘回忆的精彩社区活动的绝佳时刻。全球聚会、活动和会议将社区聚集在一起,共同学习、联系和成长。以下是今年亮点以及 2025 年展望的快速回顾。
2025 年 1 月 15 日
通过 Arm 和 GitHub 协作简化 PyTorch 的 MLOps 工作流程
PyTorch 是最广泛使用且功能最强大的深度学习框架之一,用于训练和部署复杂的神经网络。训练和部署 AI 应用程序从未如此简单,并且用于创建优化工作流程的低成本、高性能、节能的硬件、工具和技术比以往任何时候都更容易获得。但数据科学、机器学习和开发运营本身可能是深入的主题,对于具有一项专长的开发人员来说,了解如何...可能会感到不知所措。
2024 年 12 月 18 日
docTR 加入 PyTorch 生态系统:从像素到数据,使用 PyTorch 和 docTR 构建识别管道
我们很高兴地宣布 docTR 项目已集成到 PyTorch 生态系统中!此次集成确保 docTR 符合 PyTorch 的标准和实践,为开发人员提供了一个可靠的、社区支持的解决方案,用于强大的 OCR 工作流程。
2024 年 12 月 09 日
vLLM 加入 PyTorch 生态系统:为所有人提供简单、快速且廉价的 LLM 服务
我们很高兴地宣布 vLLM 项目已成为 PyTorch 生态系统项目,并加入了 PyTorch 生态系统大家庭!
2024 年 9 月 8 日
PyTorch 上海见面会纪要
我们很荣幸于 2024 年 8 月 15 日成功举办 PyTorch 上海见面会。本次见面会受到了业界的广泛关注。我们邀请了来自英特尔和华为的资深 PyTorch 开发人员作为特邀嘉宾,他们分享了宝贵的经验和最新的技术趋势。此外,本次活动还吸引了众多科技公司和知名高校的 PyTorch 爱好者。共有 40 多名参与者齐聚一堂,讨论和交流最新的...
2024 年 5 月 12 日
增强深度学习工作流程:PyTorch 生态系统工具
欢迎来到蓬勃发展的 PyTorch 生态系统,这里有大量的工具和库等待着您,这些工具和库专门用于提升您作为开发人员或研究人员在深度学习方面的体验。“生态系统工具”页面托管了许多来自学术界、工业界、应用程序开发和机器学习领域专家的项目。
2024 年 5 月 11 日
深度学习能耗测量和优化
Zeus 是一个开源工具箱,用于测量和优化深度学习工作负载的能耗。我们的目标是通过提供假设最少的组合工具,使基于精确测量的能源优化尽可能容易地应用于各种深度学习工作负载和设置。
2024 年 5 月 11 日
隆重推出 depyf:轻松掌握 torch.compile
我们很高兴推出 depyf,这是一个 PyTorch 生态系统的新项目,旨在帮助用户理解、学习和适应 torch.compile!
2024 年 2 月 15 日
通过 SimulAI 工具包探索科学机器学习管道
SciML 是 Scientific Machine Learning(科学机器学习)的缩写,它涵盖了将定量科学与机器学习相结合的工作。在过去的十年中,它获得了显着的吸引力,这得益于专用硬件(如 GPU 和 TPU)和数据集的广泛可用性。此外,它还受到机器学习浪潮的总体影响的推动,现在已根深蒂固于我们时代的时代精神中。在这种背景下,我们想介绍 SimulAI,这是一个在 th... 下的开源工具包
2024 年 1 月 29 日
Colossal-LLaMA-2:使用 LLaMA 和 Colossal-AI 的低成本高质量领域特定 LLM 解决方案
LLaMA-1 和 LLaMA-2 之间最显着的区别在于采用了更高质量的语料库,这是 LLaMA-2 性能显着提升的关键因素。这一点,再加上它的商业可用性,扩展了大型模型在开源社区中创造性应用的潜力。
2024 年 1 月 25 日
使用 RoMa 轻松实现 3D 旋转和空间变换
还在为四元数、旋转向量、右手定则以及所有这些东西而苦恼吗?试试 RoMa:一个易于使用、稳定高效的库,用于处理 PyTorch 中的旋转和空间变换。
2024 年 1 月 4 日
torchdistill — 用于可重复深度学习和知识蒸馏实验的模块化、配置驱动框架
本文总结了 torchdistill (v1.0.0) 的主要特性和概念。有关其 API 和研究项目,请参阅官方文档。
2023 年 12 月 6 日
PyPose:一个用于机器人学习的库,采用基于物理的优化
我们很高兴分享我们的新开源库 PyPose。它是一个基于 PyTorch 的面向机器人的库,提供了一组工具和算法,用于将深度学习与基于物理的优化相结合。
2023 年 11 月 9 日
激活检查点如何实现深度学习模型训练的扩展
激活检查点是一种用于减少内存占用量的技术,但会增加计算成本。它利用了一个简单的观察结果,即如果我们只是按需重新计算中间张量,就可以避免保存反向计算所需的中间张量。
2023 年 10 月 26 日
torch.compile,详解
您是否曾对 torch.compile 的复杂性感到不知所措?深入研究其工作原理可能感觉像黑魔法,字节码和 Python 内部细节让许多用户难以理解,从而阻碍他们理解和调试 torch.compile。
2023 年 7 月 6 日
揭示半监督学习的力量:统一半监督学习基准
机器学习模型在高质量、完全注释的数据上蓬勃发展。传统的监督学习方法通常需要数百万甚至数十亿规模的数据来训练大型基础模型。然而,获得如此大量的标记数据通常是乏味且劳动强度大的。作为替代方案,半监督学习 (SSL) 旨在仅使用一小部分标记数据,并辅以大量未标记数据来增强模型泛化能力。这...
2023 年 6 月 29 日
隆重推出 TorchOpt:一个用于 PyTorch 的高性能可微优化库
探索 TorchOpt,这是一个基于 PyTorch 的库,它通过其统一的编程抽象、高性能的分布式执行运行时以及对各种微分模式的支持,彻底改变了可微优化。”
2023 年 4 月 4 日
使用 octoml-profile 分析 PyTorch 语言模型
最近发布的 PyTorch 2.0 清楚地表明,社区正在大力投资于机器学习的编译器驱动的未来。新的 OctoML Profiler 可以帮助任何用户充分发挥 ML 领域这些转变的潜力。
2023 年 2 月 10 日
FASHABLE 如何使用 PyTorch 和 Azure 机器学习实现 SoA 逼真的 AI 生成图像
Fashable 是一家在 XNFY 实验室(与微软的联合倡议)诞生的公司。该公司的主要目标是通过基于 PyTorch 框架构建的符合道德规范的人工智能 (AI) 技术来彻底改变时尚界。Fashable 专注于开发为全球时尚产业生成合成内容的 AI 模型。近年来,时尚产业因产生大量浪费并造成高达全球二氧化碳排放量 10% 的责任而受到批评。Fas...
2023 年 1 月 31 日
最新的 Colossal-AI 拥有新颖的自动并行性,并为 Stable Diffusion 2 提供高达 46 倍的节省
作为新的 PyTorch 生态系统合作伙伴,我们在 HPC-AI Tech 期待与 PyTorch 社区合作,通过我们的开源项目 Colossal-AI 推进 AI 技术。我们很高兴与 PyTorch 社区携手合作,共同努力。
2023 年 1 月 6 日
使用 PyTorch 和 Azure ML 进行分布式训练
假设您有一个非常大的 PyTorch 模型,并且您已经尝试了许多常见的加速训练技巧:您优化了代码,您将训练移至云端并选择了快速 GPU VM,您安装了提高训练性能的软件包(例如,通过使用 Azure ML 上的 ACPT 精选环境)。然而,您仍然希望您的模型能够更快地训练。也许是时候尝试分布式训练了!继续阅读以了解执行分布式 t... 的最简单方法