2023 年 7 月 31 日

与 IBM 合作在生产环境中实现高性能分布式检查点

阅读更多

2023 年 7 月 27 日

IBM 作为 Premier 会员加入 PyTorch Foundation

PyTorch Foundation 作为 The Linux Foundation 的一部分，很高兴宣布 IBM 已成为其 Premier 会员。

阅读更多

2023 年 7 月 25 日

发布基于 CPP 的 S3 IO DataPipes

训练大型深度学习模型需要大量数据集。Amazon Simple Storage Service (Amazon S3) 是一种可扩展的云对象存储服务，用于存储大型训练数据集。机器学习 (ML) 从业者需要一种高效的数据管道，能够从 Amazon S3 下载数据、转换数据，并将数据馈送到 GPU 进行模型训练，以实现高吞吐量和低延迟。在这篇文章中，我们介绍了 PyTorch 新的 S3 IO DataPipes，包括 S3FileLister 和 S3FileLoader。有关内存...

阅读更多

2023 年 7 月 10 日

如何在 Intel® CPU 上加速 PyTorch Geometric

概述

阅读更多

2023 年 6 月 29 日

优化基于 LibTorch 的推理引擎内存使用和线程池

大纲

阅读更多

2023 年 6 月 28 日

在 PyTorch/XLA 上使用 LLaMA 65B 实现超低推理延迟之路

背景与现状

阅读更多

2023 年 6 月 22 日

使用 AWS Graviton 处理器优化 PyTorch 2.0 推理

新一代 CPU 由于内置的专用指令，在机器学习 (ML) 推理方面提供了显著的性能提升。结合其灵活性、快速的开发速度和低运营成本，这些通用处理器为现有的其他硬件解决方案提供了另一种 ML 推理解决方案。

阅读更多