vit_h_14

torchvision.models.vit_h_14(*, weights: Optional[ViT_H_14_Weights] = None, progress: bool = True, **kwargs: Any) → VisionTransformer

从 An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale 构建 vit_h_14 架构。

参数:

• weights (ViT_H_14_Weights, optional) – 要使用的预训练权重。有关更多详细信息和可能的值，请参阅下面的 ViT_H_14_Weights。默认情况下，不使用预训练权重。

• progress (bool, optional) – 如果为 True，则在 stderr 中显示下载进度条。默认为 True。

• **kwargs – 传递给 torchvision.models.vision_transformer.VisionTransformer 基类的参数。有关此类的更多详细信息，请参阅 源代码。

class torchvision.models.ViT_H_14_Weights(value)

上面的模型构建器接受以下值作为 weights 参数。ViT_H_14_Weights.DEFAULT 等同于 ViT_H_14_Weights.IMAGENET1K_SWAG_E2E_V1。您也可以使用字符串，例如 weights='DEFAULT' 或 weights='IMAGENET1K_SWAG_E2E_V1'。

ViT_H_14_Weights.IMAGENET1K_SWAG_E2E_V1:

这些权重是通过迁移学习获得的，方法是在 ImageNet-1K 数据上端到端微调原始 SWAG 权重。也可用作 ViT_H_14_Weights.DEFAULT。

acc@1 (在 ImageNet-1K 上)	88.552
acc@5 (在 ImageNet-1K 上)	98.694
类别	丁鲷, 金鱼, 大白鲨, … (省略 997)
配方	链接
许可证	链接
参数数量	633470440
最小尺寸	高度=518, 宽度=518
GFLOPS	1016.72
文件大小	2416.6 MB

推理转换在 ViT_H_14_Weights.IMAGENET1K_SWAG_E2E_V1.transforms 中可用，并执行以下预处理操作：接受 PIL.Image、批量 (B, C, H, W) 和单张 (C, H, W) 图像 torch.Tensor 对象。图像使用 interpolation=InterpolationMode.BICUBIC 调整大小为 resize_size=[518]，然后进行中心裁剪 crop_size=[518]。最后，值首先重新缩放到 [0.0, 1.0]，然后使用 mean=[0.485, 0.456, 0.406] 和 std=[0.229, 0.224, 0.225] 进行归一化。

ViT_H_14_Weights.IMAGENET1K_SWAG_LINEAR_V1:

这些权重由原始冻结的 SWAG 主干权重和在其上训练的在 ImageNet-1K 数据上学习的线性分类器组成。

acc@1 (在 ImageNet-1K 上)	85.708
acc@5 (在 ImageNet-1K 上)	97.73
类别	丁鲷, 金鱼, 大白鲨, … (省略 997)
配方	链接
许可证	链接
参数数量	632045800
最小尺寸	高度=224, 宽度=224
GFLOPS	167.29
文件大小	2411.2 MB

推理转换在 ViT_H_14_Weights.IMAGENET1K_SWAG_LINEAR_V1.transforms 中可用，并执行以下预处理操作：接受 PIL.Image、批量 (B, C, H, W) 和单张 (C, H, W) 图像 torch.Tensor 对象。图像使用 interpolation=InterpolationMode.BICUBIC 调整大小为 resize_size=[224]，然后进行中心裁剪 crop_size=[224]。最后，值首先重新缩放到 [0.0, 1.0]，然后使用 mean=[0.485, 0.456, 0.406] 和 std=[0.229, 0.224, 0.225] 进行归一化。