博客 – 第 6 页 – PyTorch - PyTorch 深度学习库

博客

加速 GPTQ 的 Triton 反量化内核

TL;DR：我们利用第一性原理方法，展示了逐步完成…

Less Wright，Adnan Hoque (IBM)2024 年 1 月 16 日

博客

使用 PyTorch 和 Hugging Face 生态系统工具在您的消费级硬件上微调 LLM

我们演示了如何在典型的消费级 GPU (NVIDIA…) 上微调一个 7B 参数模型。

Younes Belkada、Marc Sun、Titus von Köller、Sourab Mangrulkar、Benjamin Bossan、Lysandre Debut、Steven Liu2024 年 1 月 10 日

博客

使用 Amazon SageMaker 多模型端点和 TorchServe 在 GPU 上加速 AI 模型，推理成本可节省高达 75%

多模型端点 (MMEs) 是 Amazon SageMaker 的强大功能，旨在简化部署和操作……

James Wu、Ankith Gunapal、Li Ning、Subhash Talluri 和 Saurabh Trikande2024 年 1 月 9 日

社区

torchdistill — 一个模块化、配置驱动的框架，用于可重现的深度学习和知识蒸馏实验

本文总结了 torchdistill (v1.0.0) 的主要特性和概念。请参阅官方文档……

Yoshitomo Matsubara Yoshitomo Matsubara 关注 Yoshitomo Matsubara 16 位关注者，亚马逊前应用科学家，ML OSS 开发者。计算机科学博士。https://yoshitomo-matsubara.net/2024 年 1 月 4 日

博客

加速生成式AI 第三部分：快速扩散

这篇博文是多系列博客的第三部分，重点介绍如何加速……

Sayak Paul 和 Patrick von Platen (Hugging Face 🤗)2024 年 1 月 3 日

博客

了解 GPU 内存 2：查找和移除引用循环

这是《了解 GPU 内存》博客系列的第二部分。我们的第一篇博文《了解 GPU》……

Aaron Shi，Zachary DeVito2023 年 12 月 19 日

博客

使用 PyTorch 2.0 训练生产 AI 模型

1. 介绍 PyTorch 2.0（简称 PT2）可以显著提高……的训练和推理性能

CK Luk、Daohang Shi、Yuzhen Huang、Jackie (Jiaqi) Xu、Jade Nie、Zhou Wang、Lu Fang、Flavio Sales Truzzi、Devashish Shankar、Dima Ivashchenko、Chunzhi Yang、Nicolas Macchioni、David Berard、Yu Guo、Xiaodong Wang、Bert Maher、Yanbo Liang、Edward Yang、Brian Hirsh、Michael Voznesensky、Animesh Jain、Michael Anderson2023 年 12 月 18 日

博客

赋能模型性能：通用模型转换方法的艺术

介绍 PyTorch 2.0 (PT2) 提供了一种编译执行模式，该模式重写 Python 字节码以提取序列……

Jackie (Jiaqi) Xu、Yanbo Liang、Jason Ansel、Chunzhi Yang、Jade Nie、Yuzhen Huang、CK Luk、Xiaodong Wang、Lu Fang、Menglu Yu、Jinwon Lee、Daohang Shi、Flavio Sales Truzzi2023 年 12 月 15 日

博客

了解 GPU 内存 1：可视化所有随时间变化的分配

在使用 PyTorch on GPU 期间，您可能熟悉这种常见的错误……

Aaron Shi，Zachary DeVito2023 年 12 月 14 日

博客

来自 PyTorch Conference 2023：从恐龙到 Intel 地震成像

闪电演讲 1：地震数据到地下模型，由 OpenFWI 演讲者：Benjamin Consolvo，AI 软件……

Ramya Ravi，Susan Kahler，英特尔2023 年 12 月 12 日

社区

PyPose：一个用于基于物理优化机器人学习的库

我们很高兴分享我们新的开源库 PyPose。它是一个基于 PyTorch 的机器人导向的……

PyPose2023 年 12 月 6 日

博客

利用 PyTorch II 加速生成式 AI：快速 GPT

这篇博文是多系列博客的第二部分，重点介绍如何加速……

PyTorch 基金会2023 年 11 月 30 日

博客

PyTorch 2.1 包含适用于 AI 开发人员的新性能功能

我们很高兴看到 PyTorch 2.1 的发布。在这篇博客中，我们讨论……

英特尔2023 年 11 月 29 日

博客

使用 PyTorch 加速生成式 AI：Segment Anything，Fast

这篇博文是多系列博客的第一部分，重点介绍如何加速……

PyTorch 基金会2023 年 11 月 16 日

社区

激活检查点如何实现深度学习模型训练的扩展

激活检查点是一种用于以……为代价减少内存占用的技术

PyTorch 基金会2023 年 11 月 9 日

博客

PyTorch 编译以加速 Llama 2 上的推理

在这篇博客中，我们讨论了如何提高 Llama 2 的推理延迟……

IBM 研究院：Antoni Viros i Martin、Brian Vaughan、Davis Wertheimer、Joshua Rosenkranz、Mudhakar Srivatsa、Nelson Mimura Gonzalez、Raghu Ganti、Supriyo Chakraborty、Zhuoran Liu Meta：Geeta Chauhan、Hamid Shojanazeri2023 年 11 月 7 日

博客

使用 PyTorch/XLA 在 Cloud TPU 上实现 Llama 2 的高性能训练和推理

在 AI 创新以前所未有的速度加速的背景下，Meta 的 Llama 开源家族……

Jiewen Tan、Jon Bolin、Yeounoh Chung、Liyang Lu、Siyuan Liu、Wonjoo Lee、Manfei Bai、Meghan Cowan、Jack Cao、Milad Mohammadi、Shauheen Zahirazami、Alex Spiridonov2023 年 11 月 6 日

博客

使用 oneDNN Graph 加速 x86-64 机器上的推理

作为 PyTorch 2.0 的 Beta 功能提供支持，oneDNN Graph 利用激进的融合模式来……

英特尔2023 年 11 月 2 日

博客

AMD 通过 ROCm™ 5.7 扩展对精选 RDNA™ 3 GPU 上 PyTorch 机器学习开发的支持

使用 PyTorch 处理机器学习 (ML) 模型和算法的研究人员和开发人员现在可以……

AMD2023 年 10 月 31 日

社区

torch.compile 解释

您是否曾因 torch.compile 的复杂性而不知所措？深入了解其工作原理可能会……

You Kaichao2023 年 10 月 26 日

博客