FBGEMM 项目主页¶

欢迎来到 FBGEMM 项目的文档主页！

FBGEMM 项目是一个包含用于各种深度学习应用的高度优化内核的仓库。代码库组织为三个相关的软件包：FBGEMM、FBGEMM-GPU 和 FBGEMM-GenAI。

FBGEMM¶

FBGEMM (Facebook GEneral Matrix Multiplication，Facebook 通用矩阵乘法) 是一个用于服务器端推理的低精度、高性能矩阵乘法和卷积库。该库在 x86 机器上用作 PyTorch 量化算子的后端。

有关更多信息，请参阅 FBGEMM。

FBGEMM_GPU (FBGEMM GPU 内核库) 是一个高性能 PyTorch GPU 算子库的集合，构建在 FBGEMM 之上，用于训练和推理，专注于推荐系统应用。该库构建在 FBGEMM 之上，提供高效的表格批处理嵌入包、数据布局转换和量化支持。

有关更多信息，请参阅 FBGEMM_GPU。

FBGEMM GenAI (FBGEMM 生成式 AI 内核库) 是一组 PyTorch GPU 算子库，专为生成式 AI 应用设计，例如 FP8 逐行量化和集合通信。

有关更多信息，请参阅 FBGEMM GenAI。

一般信息

FBGEMM 开发

FBGEMM C++ API

FBGEMM_GPU 开发

FBGEMM_GPU 概述

FBGEMM 稳定版 API

FBGEMM_GPU C++ API

FBGEMM_GPU Python API

FBGEMM GenAI 开发