博客

迈向免费归一化：将归一化融合到 GEMM 和注意力内核中 博客

迈向自由归一化：将归一化融合到 GEMM 和注意力核中

代码地址：https://github.com/facebookresearch/ads_model_kernel_library/tree/main/multi_cta_norm_fusion 和 https://github.com/facebookresearch/ads_model_kernel_library/tree/main/gdpa_megakernel TL;DR：在这篇博文中，我们介绍了几种新颖的……
Jacky (Junqing) Zhou, Hongtao Yu, Jackie (Jiaqi) Xu, Menglu Yu, Ethan Che, Han Xu, Darren Liu, Peng Chen (Dev Infra), Daohang Shi, Max Leung
2026年7月10日