2023 年 6 月 7 日

加入 PyTorch 基金会:现已开放会员申请

2022 年 9 月,我们迎来了从 Meta 加入 Linux Foundation 的 PyTorch,它与创始成员 AMD、亚马逊云科技 (AWS)、Google、Meta、Microsoft 和 NVIDIA 共同组建了 PyTorch 基金会。

阅读更多

2023 年 5 月 22 日

PyTorch 2.0 对 🤗 解码器模型的开箱即用加速和内存优化

作为 PyTorch 2.0 版本的一部分,“Better Transformer”项目(在 PyTorch 中称为 Accelerated Transformers)中的注意力机制加速实现已原生添加到 PyTorch 的 torch.nn.functional.scaled_dot_product_attention 中。此实现利用了 FlashAttention 和 Memory-efficient attention 中的融合核,并支持训练和推理。

阅读更多

2023 年 5 月 12 日

语言识别:使用 PyTorch 构建端到端 AI 解决方案

语言识别是从多个音频输入样本中识别主要语言的过程。在自然语言处理 (NLP) 中,语言识别是一个重要且具有挑战性的问题。有许多与语言相关的任务,例如在手机上输入文本、查找您喜欢的新闻文章或寻找问题的答案。所有这些任务都由 NLP 模型提供支持。为了决定在特定时间点调用哪个模型,我们必须...

阅读更多

2023 年 5 月 2 日

使用 PyTorch 加速图像分割

使用 Intel® Extension for PyTorch 提升图像处理性能

阅读更多

2023 年 4 月 27 日

介绍 Hidet:用于高效模型服务的深度学习编译器

Hidet 是一款功能强大的深度学习编译器,可简化在现代加速器(例如 NVIDIA GPU)上实现高性能深度学习算子的过程。借助 PyTorch 2.0 中新的 torch.compile(...) 功能,将新的编译器集成到 PyTorch 中比以往更容易 - Hidet 现在可以用作 torch.compile(...) 后端来加速 PyTorch 模型,这使其成为希望提高模型推理性能的 PyTorch 用户的一个有吸引力的选择,尤其是在...

阅读更多