AMD 在部分 RDNA™ 3 GPU 上通过 ROCm™ 5.7 扩展了对 PyTorch 机器学习开发的支持 博客 AMD 通过 ROCm™ 5.7 扩展对精选 RDNA™ 3 GPU 上 PyTorch 机器学习开发的支持 使用 PyTorch 进行机器学习 (ML) 模型和算法研究的开发者现在可以……AMD2023年10月31日
通过 torch.compile 将 NumPy 代码编译为 C++ 或 CUDA 博客 通过 torch.compile 将 NumPy 代码编译成 C++ 或 CUDA Quansight 的工程师们在 PyTorch 2.1 中实现了通过 torch.compile 对 NumPy 代码进行追踪的支持。此功能……Evgeni Burovski, Ralf Gommers and Mario Lezcano2023年10月17日
华为加入 PyTorch 基金会成为高级会员 公告 华为加入 PyTorch 基金会成为高级会员 今天,作为深度学习社区协作的中立平台,PyTorch 基金会……PyTorch Foundation2023年10月17日
PyTorch Edge:通过 ExecuTorch 实现跨移动设备和边缘设备的端侧推理 公告 PyTorch Edge:通过 ExecuTorch 在移动和边缘设备上实现设备端推理 我们很高兴发布 ExecuTorch,这是我们全新的解决方案,旨在实现跨设备的端侧推理能力……the PyTorch Edge Team2023年10月17日
用于长上下文推理的 Flash-Decoding 博客 用于长上下文推理的 Flash-Decoding 动机:诸如 ChatGPT 或 Llama 之类的大型语言模型 (LLM) 最近受到了前所未有的关注……Tri Dao, Daniel Haziza, Francisco Massa, Grigory Sizov2023年10月13日
ML 模型服务器资源节省——从高成本 GPU 过渡到由 oneAPI 提供支持的英特尔 CPU 并提升性能 博客 ML 模型服务器资源节省——从高成本 GPU 到 Intel CPU 和 oneAPI 驱动的软件的性能转换 审阅者:Yunsang Ju (Naver GplaceAI 负责人), Min Jean Cho (Intel), Jing Xu (Intel), Mark Saroufim (Meta) 简介:在这里,我们将……Sangjune Park(Naver GplaceAI MLOps), Jooyoung Lee(Naver GplaceAI MLE), Junho Min(Naver GplaceAI MLE)2023年10月11日
ML 模型服务器资源节省——从高成本 GPU 过渡到由 oneAPI 提供支持的英特尔 CPU 并提升性能 案例研究 ML 模型服务器资源节省——从高成本 GPU 到 Intel CPU 和 oneAPI 驱动的软件的性能转换 在这里,我们将分享我们将 AI 工作负载从 GPU 服务器迁移的经验……PyTorch Foundation2023年10月11日
PyTorch 2.1:自动动态形状编译,分布式检查点 博客 PyTorch 2.1:自动动态形状编译,分布式检查点 我们很高兴宣布 PyTorch® 2.1 (发布说明) 的发布!PyTorch 2.1 提供了……PyTorch Foundation2023年10月4日
PyTorch 2.1 中的新库更新 博客 PyTorch 2.1 中的新库更新 总结 我们正在对当前的 PyTorch 库进行多项改进,同时还有……PyTorch Foundation2023年10月4日
使用 TorchServe 在 AWS Inferentia2 上实现高性能 Llama 2 部署 博客 使用 TorchServe 在 AWS Inferentia2 上部署高性能 Llama 2 最近,Llama 2 发布了,并引起了机器学习社区的广泛关注。亚马逊……Mike Zhang, Li Ning, Sergey Ivanov, Naman Nandan, Hamid Shojanazeri, Geeta Chauhan, Abhi Shivaditya, Michael Nguyen, Pinak Panigrahi2023年10月4日
如何使用 DialoGPT 和 PyTorch 构建交互式聊天生成模型 博客 如何使用 DialoGPT 和 PyTorch 构建交互式聊天生成模型 在过去,对交互式聊天生成(或对话响应生成)模型的关注显著增加……Intel2023年10月3日
宣布 PyTorch 2023 年下半年文档马拉松 (Docathon) 公告 宣布举办 PyTorch Docathon 2023 下半年 我们很高兴地宣布,我们将举办一场 PyTorch 文档马拉松……PyTorch Foundation2023年10月2日
矩阵内部:可视化矩阵乘法、注意力机制及更多 博客 矩阵内部:可视化矩阵乘法、注意力机制及其他 使用 3D 可视化矩阵乘法表达式、带有真实权重的注意力头等等。矩阵……Basil Hosmer2023年9月25日
使用 torch.compile 和 PyTorch Inductor 加速 CPU 推理 博客 使用 torch.compile 通过 PyTorch Inductor 加速 CPU 推理 故事概览:尽管 PyTorch* Inductor C++/OpenMP* 后端已使用户能够……Intel2023年9月13日
Graphcore 加入 PyTorch 基金会成为普通会员 公告 Graphcore 加入 PyTorch 基金会成为普通会员 PyTorch 基金会是深度学习社区协作的中立平台,旨在……PyTorch Foundation2023年9月6日
自动追踪收集与分析 博客 自动化跟踪收集与分析 在这篇博客中,我们分享了如何实现 PyTorch Profiler 的收集与分析……Anupam Bhatnagar, Brian Coutinho2023年9月5日
PyTorch/XLA SPMD:通过自动并行化扩展模型训练与推理 博客 PyTorch/XLA SPMD:通过自动并行化扩展模型训练和服务 今天,我们很高兴地宣布 PyTorch/XLA SPMD:将 GSPMD 集成到 PyTorch 中,提供了一种简单的……Yeounoh Chung, Jon Bolin, Milad Mohammadi, Jiewen Tan, Jack Cao, Joe Spisak, Alex Spiridonov, Shauheen Zahirazami, Steven Krawczyk, Wonjoo Lee Mohit Khatwani, Wanchao Liang, Vaibhav Singh2023年8月31日