使用 FSDP 在 Cloud TPU 上扩展 PyTorch 模型 博客 使用 FSDP 在 Cloud TPU 上扩展 PyTorch 模型 引言 研究界已经见证了大型模型在自然语言处理(NLP)等领域的诸多成功,...Ronghang Hu, Vaibhav Singh, Jack Cao, Milad Mohammadi, Yeounoh Chung, Shauheen Zahirazami, Ross Girshick2022 年 10 月 13 日
Meta 生产环境 PyTorch 模型的性能调试 博客 Meta 生产环境 PyTorch 模型的性能调试 1. Meta 的 AI 性能分析 (MAIProf) 图 1:Meta AI 的简化插图...CK Luk, Lei Tian2022 年 9 月 29 日
2022 年 PyTorch 大会公告 博客 宣布 2022 年 PyTorch 大会 我们很高兴地宣布,PyTorch 大会将作为卫星活动回归线下,...PyTorch 基金会2022 年 9 月 26 日
PyTorch 通过加入 Linux 基金会来加强其治理 博客 PyTorch 通过加入 Linux 基金会加强其治理 今天,我自豪地宣布 PyTorch 将作为 ... 迁移到 Linux 基金会 (LF)。Soumith Chintala2022 年 9 月 12 日
使用 TorchAudio 和 Flashlight Text 在 PyTorch 中实现快速 Beam Search 解码 博客 使用 TorchAudio 和 Flashlight Text 在 PyTorch 中进行快速波束搜索解码 现在可以使用来自 Flashlight Text(Flashlight ML 框架的一部分)的行业领先速度的 Beam Search 解码,...Caroline Chen, Jacob Kahn (@jacob_d_kahn)2022 年 8 月 29 日
介绍 nvFuser,一个用于 PyTorch 的深度学习编译器 博客 介绍 nvFuser,一个用于 PyTorch 的深度学习编译器 nvFuser 是一款用于 NVIDIA GPU 的深度学习编译器,可自动即时编译快速且...Christian Sarofeen, Piotr Bialecki, Jie Jiang, Kevin Stephano, Masaki Kozuki, Neal Vaidya, Stas Bekman2022 年 8 月 26 日
使用 Channels Last 在 CPU 上加速 PyTorch 视觉模型 博客 使用 CPU 上的 Channels Last 加速 PyTorch Vision 模型 概述 内存格式对运行视觉模型时的性能有显著影响,通常 Channels Last...Mingfei Ma (Intel), Vitaly Fedyunin (Meta), Wei Wei (Meta)2022 年 8 月 24 日
使用 TorchVision 中的新 API 轻松列出和初始化模型 博客 使用 TorchVision 中的新 API 轻松列出和初始化模型 TorchVision 现在支持按名称列出和初始化所有可用的内置模型和权重。这...Vasilis Vryniotis and Laurence Rouesnel2022 年 8 月 18 日
使用 Bfloat16 增强 PyTorch 在 Intel® Xeon® 可扩展处理器上的性能 博客 使用 Bfloat16 增强 PyTorch 在 Intel® Xeon® 可扩展处理器上的性能 概述 近年来,AI 模型日益增长的复杂性对硬件提出了要求...Mingfei Ma (Intel), Vitaly Fedyunin (Meta), Wei Wei (Meta)2022 年 8 月 16 日
介绍 PlayTorch 应用:快速创建移动 AI 体验 博客 介绍 PlayTorch 应用:快速创建移动 AI 体验 去年 12 月,我们发布了 PyTorch Live,一个用于在几分钟内构建 AI 驱动的移动原型的工具包。PlayTorch 团队2022 年 7 月 22 日
每个用户都应该知道的 PyTorch 混合精度训练知识 博客 每个用户都应该了解的 PyTorch 混合精度训练 现代神经网络的有效训练通常依赖于使用较低精度的数据类型。峰值...Syed Ahmed, Christian Sarofeen, Mike Ruberry, Eddie Yan, Natalia Gimelshein, Michael Carilli, Szymon Migacz, Piotr Bialecki, Paulius Micikevicius, Dusan Stosic, Dong Yang, and Naoya Maruyama2022 年 7 月 19 日
案例研究:PathAI 使用 PyTorch 通过 AI 驱动的病理学改善患者预后 博客 案例研究:PathAI 使用 PyTorch 通过 AI 驱动的病理学改善患者预后 PathAI 是病理学(疾病研究)领域 AI 驱动技术工具和服务的领先提供商...Logan Kilpatrick - 高级技术倡导者, Harshith Padigela - 机器学习工程师, Syed Ashar Javed - 机器学习技术主管, Robert Egger - 生物医学数据科学家2022 年 7 月 15 日
用于快速 Transformer 推理的 BetterTransformer 博客 一个更好的 Transformer,用于快速 Transformer 推理 简而言之:Transformers 在 NLP 领域取得了最先进的性能,并且在许多其他领域也越来越受欢迎...Michael Gschwind, Eric Han, Scott Wolchok, Rui Zhu, Christian Puhrsch2022 年 7 月 12 日
PyTorch 1.12 发布:TorchArrow、模块的功能 API 和 nvFuser 现已可用 博客 PyTorch 1.12:TorchArrow、模块的函数式 API 和 nvFuser 现已可用 我们很高兴地宣布 PyTorch 1.12 的发布(发行说明)!此版本是...PyTorch 基金会2022年6月28日
PyTorch 1.12 中的新库更新 博客 PyTorch 1.12 中的新库更新 除了 PyTorch 1.12,我们正在对当前的 PyTorch 库进行多项改进,...PyTorch 基金会2022年6月28日
PyTorch 中计算图的执行方式 博客 PyTorch 中计算图的执行方式 欢迎来到理解 PyTorch 自动求导引擎系列的最后一篇文章!如果您的...Preferred Networks2022 年 6 月 27 日
使用 TorchGeo 进行地理空间深度学习 博客 使用 TorchGeo 进行地理空间深度学习 TorchGeo 是一个 PyTorch 领域库,提供特定于地理空间的数据集、采样器、转换和预训练模型...Adam Stewart (伊利诺伊大学香槟分校), Caleb Robinson (微软人工智能公益研究实验室), Isaac Corley (德克萨斯大学圣安东尼奥分校)2022 年 6 月 23 日
迪士尼如何利用 PyTorch 的多模态方法改进活动识别 博客 迪士尼如何通过 PyTorch 的多模态方法改进活动识别 引言 迪士尼媒体与娱乐发行 (DMED) 负责的众多事务之一是...Monica Alfaro, Albert Aparicio, Francesc Guitart, Marc Junyent, Pablo Pernias, Marcel Porta, and Miquel Àngel Farré (前高级技术经理)2022 年 6 月 16 日
介绍 Mac 上的 PyTorch 加速训练 博客 在 Mac 上加速 PyTorch 训练 与 Apple 的 Metal 工程团队合作,我们很高兴地宣布支持...PyTorch2022 年 5 月 18 日
环境临床智能:使用 PyTorch 生成医疗报告 博客 环境临床智能:使用 PyTorch 生成医疗报告 引言 完整准确的临床文档是跟踪患者护理的重要工具。它...Miguel Del-Agua,Nuance 首席研究科学家,Jeremy Jancsary,Nuance 高级首席研究科学家2022 年 5 月 12 日