vit_l_32

torchvision.models.vit_l_32(*, weights: Optional[ViT_L_32_Weights] = None, progress: bool = True, **kwargs: Any) → VisionTransformer

根据《An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale》构建 vit_l_32 架构。

参数:

• weights (ViT_L_32_Weights, 可选) – 要使用的预训练权重。有关更多详细信息和可能的值，请参阅下方的ViT_L_32_Weights。默认情况下，不使用预训练权重。

• progress (bool, 可选) – 如果为 True，则在 stderr 中显示下载进度条。默认为 True。

• **kwargs – 传递给 torchvision.models.vision_transformer.VisionTransformer 基类的参数。有关此类别的更多详细信息，请参阅源代码。

class torchvision.models.ViT_L_32_Weights(value)

上述模型构建器接受以下值作为 weights 参数。ViT_L_32_Weights.DEFAULT 等同于 ViT_L_32_Weights.IMAGENET1K_V1。您也可以使用字符串，例如 weights='DEFAULT' 或 weights='IMAGENET1K_V1'。

ViT_L_32_Weights.IMAGENET1K_V1:

这些权重是使用修改后的 DeIT 训练方案从头开始训练的。也可用作 ViT_L_32_Weights.DEFAULT。

acc@1（在 ImageNet-1K 上）	76.972
acc@5（在 ImageNet-1K 上）	93.07
类别	丁鱥鱼、金鱼、大白鲨，...（省略 997 个）
参数数量	306535400
最小尺寸	height=224, width=224
方案	链接
GFLOPS	15.38
文件大小	1169.4 MB

推理转换可在 ViT_L_32_Weights.IMAGENET1K_V1.transforms 中找到，并执行以下预处理操作：接受 PIL.Image，批量 (B, C, H, W) 和单张 (C, H, W) 图像 torch.Tensor 对象。图像使用 interpolation=InterpolationMode.BILINEAR 缩放到 resize_size=[256]，然后进行 crop_size=[224] 的中心裁剪。最后，值首先缩放到 [0.0, 1.0]，然后使用 mean=[0.485, 0.456, 0.406] 和 std=[0.229, 0.224, 0.225] 进行归一化。