vit_l_16

torchvision.models.vit_l_16(*, weights: Optional[ViT_L_16_Weights] = None, progress: bool = True, **kwargs: Any) → VisionTransformer

从 An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale 构建 vit_l_16 架构。

参数:

• weights (ViT_L_16_Weights, 可选) – 要使用的预训练权重。 有关更多详细信息和可能的值，请参阅下面的 ViT_L_16_Weights。 默认情况下，不使用预训练权重。

• progress (bool, 可选) – 如果为 True，则向 stderr 显示下载进度条。 默认为 True。

• **kwargs – 传递给 torchvision.models.vision_transformer.VisionTransformer 基类的参数。 有关此类别的更多详细信息，请参阅源代码。

class torchvision.models.ViT_L_16_Weights(value)

上面的模型构建器接受以下值作为 weights 参数。 ViT_L_16_Weights.DEFAULT 等效于 ViT_L_16_Weights.IMAGENET1K_V1。 您也可以使用字符串，例如 weights='DEFAULT' 或 weights='IMAGENET1K_V1'。

ViT_L_16_Weights.IMAGENET1K_V1:

这些权重是通过使用 TorchVision 修改后的新训练配方从头开始训练的。 也可作为 ViT_L_16_Weights.DEFAULT 使用。

acc@1 (在 ImageNet-1K 上)	79.662
acc@5 (在 ImageNet-1K 上)	94.638
类别	tench, goldfish, great white shark, … (省略 997 个)
num_params	304326632
min_size	height=224, width=224
配方	链接
GFLOPS	61.55
文件大小	1161.0 MB

推理转换可在 ViT_L_16_Weights.IMAGENET1K_V1.transforms 中找到，并执行以下预处理操作： 接受 PIL.Image、批量 (B, C, H, W) 和单张 (C, H, W) 图像 torch.Tensor 对象。 图像使用 interpolation=InterpolationMode.BILINEAR 调整大小为 resize_size=[242]，然后进行 crop_size=[224] 的中心裁剪。 最后，值首先重新缩放到 [0.0, 1.0]，然后使用 mean=[0.485, 0.456, 0.406] 和 std=[0.229, 0.224, 0.225] 进行归一化。

ViT_L_16_Weights.IMAGENET1K_SWAG_E2E_V1:

这些权重是通过迁移学习学习的，方法是对 ImageNet-1K 数据上的原始 SWAG 权重进行端到端微调。

acc@1 (在 ImageNet-1K 上)	88.064
acc@5 (在 ImageNet-1K 上)	98.512
类别	tench, goldfish, great white shark, … (省略 997 个)
配方	链接
许可证	链接
num_params	305174504
min_size	height=512, width=512
GFLOPS	361.99
文件大小	1164.3 MB

推理转换可在 ViT_L_16_Weights.IMAGENET1K_SWAG_E2E_V1.transforms 中找到，并执行以下预处理操作： 接受 PIL.Image、批量 (B, C, H, W) 和单张 (C, H, W) 图像 torch.Tensor 对象。 图像使用 interpolation=InterpolationMode.BICUBIC 调整大小为 resize_size=[512]，然后进行 crop_size=[512] 的中心裁剪。 最后，值首先重新缩放到 [0.0, 1.0]，然后使用 mean=[0.485, 0.456, 0.406] 和 std=[0.229, 0.224, 0.225] 进行归一化。

ViT_L_16_Weights.IMAGENET1K_SWAG_LINEAR_V1:

这些权重由原始冻结的 SWAG 主干权重和在线性分类器之上学习的权重组成，该线性分类器在 ImageNet-1K 数据上进行训练。

acc@1 (在 ImageNet-1K 上)	85.146
acc@5 (在 ImageNet-1K 上)	97.422
类别	tench, goldfish, great white shark, … (省略 997 个)
配方	链接
许可证	链接
num_params	304326632
min_size	height=224, width=224
GFLOPS	61.55
文件大小	1161.0 MB

推理转换可在 ViT_L_16_Weights.IMAGENET1K_SWAG_LINEAR_V1.transforms 中找到，并执行以下预处理操作： 接受 PIL.Image、批量 (B, C, H, W) 和单张 (C, H, W) 图像 torch.Tensor 对象。 图像使用 interpolation=InterpolationMode.BICUBIC 调整大小为 resize_size=[224]，然后进行 crop_size=[224] 的中心裁剪。 最后，值首先重新缩放到 [0.0, 1.0]，然后使用 mean=[0.485, 0.456, 0.406] 和 std=[0.229, 0.224, 0.225] 进行归一化。