博客 – 第 11 页 – PyTorch

博客

PyTorch 2.1：自动动态形状编译，分布式检查点

我们很高兴地宣布发布 PyTorch® 2.1（发行说明）！PyTorch 2.1 提供了……

PyTorch 基金会2023年10月4日

博客

PyTorch 2.1 中的新库更新

总结我们正在对当前的 PyTorch 库进行多项改进，同时还有……

PyTorch 基金会2023年10月4日

博客

使用 TorchServe 在 AWS Inferentia2 上部署高性能 Llama 2

近期，Llama 2 发布，引起了机器学习社区的广泛关注。亚马逊……

Mike Zhang, Li Ning, Sergey Ivanov, Naman Nandan, Hamid Shojanazeri, Geeta Chauhan, Abhi Shivaditya, Michael Nguyen, Pinak Panigrahi2023年10月4日

博客

如何使用 DialoGPT 和 PyTorch 构建交互式聊天生成模型

过去，人们对交互式聊天生成（或对话响应生成）模型的关注度大幅增加……

英特尔2023年10月3日

博客

矩阵内部：可视化矩阵乘法、注意力机制及其他

使用 3D 可视化矩阵乘法表达式、带有真实权重的注意力头等等。矩阵……

Basil Hosmer2023年9月25日

博客

使用 torch.compile 通过 PyTorch Inductor 加速 CPU 推理

故事摘要：尽管 PyTorch* Inductor C++/OpenMP* 后端已使用户能够……

英特尔2023年9月13日

博客

自动化跟踪收集与分析

在本博客中，我们将分享如何启用 PyTorch Profiler 的收集与分析功能……

Anupam Bhatnagar, Brian Coutinho2023年9月5日

博客

PyTorch/XLA SPMD：通过自动并行化扩展模型训练和服务

今天，我们很高兴宣布 PyTorch/XLA SPMD：将 GSPMD 集成到 PyTorch 中，提供了一种简单的……

Yeounoh Chung, Jon Bolin, Milad Mohammadi, Jiewen Tan, Jack Cao, Joe Spisak, Alex Spiridonov, Shauheen Zahirazami, Steven Krawczyk, Wonjoo Lee, Mohit Khatwani, Wanchao Liang, Vaibhav Singh2023年8月31日

博客

使用 PyTorch/XLA FSDP 在 TPU 上大规模训练 Hugging Face Transformers

人工智能正通过理解和生成语言、回答问题等先进功能改变许多行业……

Alex Wertheim, Milad Mohammadi, Jack Cao, Alex Spiridonov, Joe Spisak, Lysandre Debut, Sylvain Gugger, Sourab Mangrulkar2023年8月24日

博客

PyTorch 中 x86 CPU 的 INT8 量化

概述：INT8 量化是一种强大的技术，用于加速 x86 上的深度学习推理……

英特尔2023年8月7日

博客

宣布基于 C++ 的 S3 IO DataPipes

训练大型深度学习模型需要庞大的数据集。Amazon Simple Storage Service (Amazon S3) 是一种可扩展的……

John He, Khaled ElGalaind, Roshani Nagmote, Daiming Yang2023年7月25日

博客

如何加速 Intel® CPU 上的 PyTorch Geometric

概述：英特尔 PyTorch 团队一直在与 PyTorch Geometric (PyG) 社区合作，以……

英特尔2023年7月10日

博客

优化基于 LibTorch 的推理引擎内存使用和线程池

大纲：在这篇博客文章中，我们将展示如何优化基于 LibTorch 的推理引擎以最大化……

Himalay Mohanlal Joriwal, Pierre-Yves Aquilanti, Vivek Govindan, Hamid Shojanazeri, Ankith Gunapal, Tristan Rice2023年6月29日

博客

在 PyTorch/XLA 上实现 LLaMA 65B 超低推理延迟的路径

背景与现状：在自然语言处理 (NLP) 领域，语言模型……

Milad Mohammadi, Jiewen Tan, Liyang Lu, Siyuan Liu, Yeounoh Chung, Wonjoo Lee, Manfei Bai, Steven Krawczyk, Shauheen Zahirazami, Alex Wertheim, Meghan Cowan, Jack Cao, Joe Spisak2023年6月28日

博客

使用 AWS Graviton 处理器优化 PyTorch 2.0 推理

新一代 CPU 由于……在机器学习 (ML) 推理方面提供了显著的性能提升。

AWS 的 Sunita Nadampalli 与 Meta 的 Ankith Gunapal2023年6月22日

博客

🎉 PyTorch 文档马拉松 2023 年上半年总结 🎉

感谢所有参加我们首次 PyTorch 文档马拉松的人，结果已经……

PyTorch 基金会2023年6月16日

博客

使用 PyTorch 2.0 开箱即用加速 🤗 解码器模型并节省内存

作为 PyTorch 2.0 发布的一部分，注意力机制的加速实现作为……的一部分

Felix Marty, Younes Belkada, Hamid Shojanazeri, Driss Guessous2023年5月22日

博客

语言识别：使用 PyTorch 构建端到端 AI 解决方案

语言识别是从多个音频输入样本中识别主要语言的过程……

英特尔2023年5月12日

博客

使用 PyTorch 加速图像分割

使用英特尔® PyTorch 扩展库提升图像处理性能。PyTorch 提供了出色的 CPU 性能……

英特尔2023年5月2日

博客

介绍 Hidet：一个用于高效模型服务的深度学习编译器

Hidet 是一款功能强大的深度学习编译器，它简化了实现高性能深度学习的过程……

Hidet 团队2023年4月27日

博客