博客 – 第 5 页 – PyTorch

博客

在移动设备上释放 AI 的力量：使用 ExecuTorch 和 KleidiAI 对 Llama 3.2 量化模型进行 LLM 推理

介绍在最近的 PyTorch 大会上，Arm 强调了其技术在以下领域的广泛影响：

Gian Marco Iodice，Arm 和 Digant Desai，Meta2024 年 10 月 28 日

博客

通过三个简单步骤开始使用 PyTorch、ExecuTorch 和 Ethos-U85

ExecuTorch 支持 Ethos-U85 在快速发展的机器学习领域，PyTorch 已成为……

Robert Elliott、Fredrik Knutsson 和 Mark Quartermain2024 年 10 月 28 日

博客

PyTorch 2.5 现已支持英特尔 GPU

PyTorch® 2.5 现已支持 Intel GPU，提供改进的功能和性能……

Intel PyTorch 团队2024 年 10 月 25 日

博客

ExecuTorch Beta：设备端 AI 和 LLM、稳定性以及与合作伙伴的加速

ExecuTorch 随 v0.4 的发布已达到 Beta 状态，提供稳定的 API 和运行时……

PyTorch 基金会2024 年 10 月 24 日

博客

TorchRec 和 FBGEMM 1.0 稳定版发布

我们很高兴地宣布 TorchRec 和 FBGEMM 的 1.0 稳定版发布。TorchRec 是 PyTorch 原生……

Paul Zhang、Zain Huda、Sarunya Pumma、Shintaro Iwasaki、Supadchaya Puangpontip、Benson Ma2024 年 10 月 23 日

博客

PyTorch 2.5 发布博客

我们很高兴地宣布 PyTorch® 2.5 发布（发布说明）！此版本具有……

PyTorch 基金会2024 年 10 月 17 日

博客

在 Windows CPU 上实现 PyTorch 性能提升的路径

PyTorch 在 Windows 上的 CPU 性能低于 Linux 一直是一个挑战……

Intel 公司2024 年 10 月 15 日

博客

PyTorch 基金会技术咨询委员会选举新领导层

我们很高兴地宣布 PyTorch 基金会首任主席和副主席……

PyTorch 基金会2024 年 10 月 8 日

博客

2024 年 PyTorch 大会回顾：如火如荼 🔥

在旧金山举行的 2024 年 PyTorch 大会聚集了近 1,500 名 AI 研究人员、开发人员和爱好者……

Jennifer Bly，PyTorch 基金会2024 年 10 月 2 日

博客

PyTorch 多设备集成中的挑战与努力：兼容性、可移植性和集成效率

介绍随着对各种硬件加速器的需求不断增长，对健壮的……的需求也随之增长。

宗泽生（华为），李佳伟（华为）| 合著者：弓炯（英特尔），Bartosz Sochacki（英特尔），王奕侃（英特尔）2024 年 9 月 18 日

博客

无需 CUDA 的 LLM 推理

在此博客中，我们讨论了我们用于使用流行……实现 FP16 推理的方法

Adnan Hoque、Less Wright、Raghu Ganti 和 Mudhakar Srivatsa2024 年 9 月 4 日

博客

加速您的 AI：PyTorch 2.4 现已支持英特尔 GPU，实现更快的工作负载

我们有一个激动人心的消息！PyTorch 2.4 现已支持 Intel® 数据中心 GPU Max 系列和……

Intel PyTorch 团队2024 年 8 月 29 日

博客

在 Opacus 中启用快速梯度裁剪和幽灵裁剪

介绍和背景差分隐私随机梯度下降 (DP-SGD) 是训练机器的标准方法……

Enayat Ullah、Huanyu Zhang、Will Bullock、Ilya Mironov2024 年 8 月 20 日

博客

FlexAttention：PyTorch 的灵活性与 FlashAttention 的性能

理论上，注意力就是你所需要的一切。然而，在实践中，我们还需要优化的注意力……

PyTorch 团队：Driss Guessous、Yanbo Liang、Joy Dong、Horace He2024 年 8 月 7 日

博客

使用 PyTorch 对大型语言模型进行量化感知训练

在此博客中，我们介绍了用于大型语言模型的端到端量化感知训练 (QAT) 流程……

Andrew Or、Jerry Zhang、Evan Smothers、Kartikay Khandelwal、Supriya Rao2024 年 7 月 30 日

博客

PyTorch 2.4 发布博客

我们很高兴地宣布 PyTorch® 2.4 发布（发布说明）！PyTorch 2.4 添加了……

PyTorch 基金会2024 年 7 月 24 日

博客

深入探讨 Hopper TMA 单元在 FP8 GEMM 中的应用

摘要 Hopper (H100) GPU 架构被称为“第一个真正的异步 GPU”，其中包含……

Adnan Hoque、Less Wright、Chih-Chieh Yang2024 年 7 月 22 日

博客

FlashAttention-3：通过异步和低精度实现快速准确的注意力机制

注意力作为无处不在的 Transformer 架构的核心层，是大型……的瓶颈

Jay Shah 和 Ganesh Bikshandi，Colfax Research；Ying Zhang，Meta；Vijay Thakkar 和 Pradeep Ramani，NVIDIA；Tri Dao，TogetherAI 和普林斯顿大学2024 年 7 月 11 日

博客

学习如何使用 ExecuTorch 和 Llama 模型开发 Android 应用程序

此博客由 Arm 的 PyTorch 团队提供。更多详细信息可在此处找到：

Arm2024 年 7 月 10 日

博客

使用 AWS Graviton 处理器上的 torch.compile 加速 PyTorch 推理

总结最初，PyTorch 使用一种急切模式，其中构成模型的每个 PyTorch 操作……

Sunita Nadampalli2024 年 7 月 9 日

博客