FBGEMM_GPU

FBGEMM_GPU（FBGEMM GPU 内核库）是建立在 FBGEMM 之上的高性能 PyTorch GPU 算子库的集合，用于训练和推理，重点关注推荐系统应用。该库建立在 FBGEMM 之上，提供高效的表批处理嵌入袋、数据布局转换和量化支持。

FBGEMM_GPU 开发

• 构建说明
  • 设置独立构建环境
  • 设置为仅 CPU 构建
  • 设置为 CUDA 构建
  • 设置为 ROCm 构建
  • 安装构建工具
  • 安装 PyTorch
  • 其他预构建设置
  • 仅 CPU 构建
  • CUDA 构建
  • ROCm 构建
  • 构建后检查（针对开发者）
• 安装说明
  • 设置仅 CPU 环境
  • 设置 CUDA 环境
  • 设置 ROCm 环境
  • 安装 Python 库
  • 安装 PyTorch
  • 安装 Triton
  • 安装 FBGEMM_GPU 包
  • 安装后检查
• 测试说明
  • 设置 FBGEMM_GPU 测试环境
  • 运行 FBGEMM_GPU 测试
  • 运行 FBGEMM_GPU 基准测试
• 功能门
  • 创建功能门
  • 启用功能门

FBGEMM_GPU 概述

• 参差张量算子
  • 高级概述
  • 参差张量格式
  • 参差张量操作

FBGEMM 稳定 API

• FBGEMM_GPU 稳定 Python API
  • 稳定 API

FBGEMM_GPU C++ API

• 稀疏数据算子
  • CUDA 算子
  • CPU 算子
• 量化算子
  • CUDA 算子
  • CPU 算子
• 池化嵌入算子
  • 合并算子
  • 排列算子
• 表批处理嵌入算子
• 参差张量算子
  • CUDA 算子
  • CPU 算子
• CUDA 内存算子
• 组合输入算子
• 布局转换算子
  • CUDA 算子
  • CPU 算子
• 嵌入算子
  • CUDA 算子
  • CPU 算子
• SSD 嵌入算子
  • CUDA 算子
• 实验性算子
  • 注意力算子
• 功能门 (C++)

FBGEMM_GPU Python API

• 稀疏算子
  • 稳定 API
• 池化嵌入算子
  • 稳定 API
  • 其他 API
• 量化算子
  • 稳定 API
  • 其他 API
• 参差张量算子
  • 稳定 API
  • 其他 API
• 表批处理嵌入 (TBE) 训练模块
  • 稳定 API
  • 其他 API
• 表批处理嵌入 (TBE) 推理模块
  • 稳定 API
  • 其他 API
• 池化嵌入模块
  • 稳定 API
  • 其他 API
• 功能门 (Python)
  • 稳定 API