AMD 在部分 RDNA™ 3 GPU 上扩展了对 ROCm™ 5.7 环境下 PyTorch 机器学习开发的支持
使用 PyTorch 进行机器学习 (ML) 模型和算法研究的开发者现在可以……
AMD2023年10月31日
通过 torch.compile 将 NumPy 代码编译为 C++ 或 CUDA
Quansight 的工程师们在 PyTorch 2.1 中实现了通过 torch.compile 对 NumPy 代码进行追踪的支持。此功能……
用于长上下文推理的 Flash-Decoding
动机：ChatGPT 或 Llama 等大语言模型 (LLM) 最近受到了前所未有的关注……
ML 模型服务器资源节省——从高成本 GPU 过渡到基于 Intel CPU 和 oneAPI 的高性能软件 ![]()
审阅者：Yunsang Ju (Naver GplaceAI 负责人), Min Jean Cho (Intel), Jing Xu (Intel), Mark Saroufim (Meta) 简介：在这里，我们将……
PyTorch 2.1：自动动态形状编译、分布式检查点保存
我们很高兴地宣布发布 PyTorch® 2.1 (发布说明)！PyTorch 2.1 提供了……
PyTorch Foundation2023年10月4日
使用 torch.compile 和 PyTorch Inductor 加速 CPU 推理
内容摘要：尽管 PyTorch* Inductor C++/OpenMP* 后端已使用户能够……
Intel2023年9月13日
PyTorch/XLA SPMD：利用自动并行化扩展模型训练与服务
今天，我们很高兴宣布 PyTorch/XLA SPMD 的发布：通过简单的方式将 GSPMD 集成到 PyTorch 中……
宣布推出基于 CPP 的 S3 IO DataPipes
训练大型深度学习模型需要庞大的数据集。Amazon Simple Storage Service (Amazon S3) 是一个可扩展的……
如何加速 Intel® CPU 上的 PyTorch Geometric
概述：Intel PyTorch 团队一直在与 PyTorch Geometric (PyG) 社区合作……
Intel2023年7月10日
优化基于 LibTorch 的推理引擎的内存使用和线程池
大纲：在这篇博文中，我们展示了如何优化基于 LibTorch 的推理引擎，以最大化……