SDPBackend

class torch.nn.attention.SDPBackend

一个类似枚举的类，它包含用于缩放点积注意力 的不同后端。此后端类旨在与 sdpa_kernel 上下文管理器一起使用。

以下枚举可用

• 错误：在尝试确定后端时发生错误。

• MATH：用于缩放点积注意力的数学后端。

• FLASH_ATTENTION：用于缩放点积注意力的闪存注意力后端。

• EFFICIENT_ATTENTION：用于缩放点积注意力的高效注意力后端。

• CUDNN_ATTENTION：用于缩放点积注意力的 cuDNN 后端。

有关更多详细信息，请参阅 torch.nn.attention.sdpa_kernel()。

警告

此类处于测试阶段，可能会发生更改。

property name