SDPBackend

class torch.nn.attention.SDPBackend

一个类似枚举的类，包含缩放点积注意力（scaled dot product attention）的不同后端。该后端类旨在与 sdpa_kernel 上下文管理器一起使用。

以下枚举可用

• ERROR: 确定后端时发生错误。

• MATH: 缩放点积注意力（scaled dot product attention）的数学后端。

• FLASH_ATTENTION: 缩放点积注意力（scaled dot product attention）的 Flash Attention 后端。

• EFFICIENT_ATTENTION: 缩放点积注意力（scaled dot product attention）的 Efficient Attention 后端。

• CUDNN_ATTENTION: 缩放点积注意力（scaled dot product attention）的 cuDNN 后端。

有关更多详细信息，请参阅 torch.nn.attention.sdpa_kernel()。

警告

此类别处于 Beta 阶段，可能会发生变化。

property name