vit_b_16

torchvision.models.vit_b_16(*, weights: Optional[ViT_B_16_Weights] = None, progress: bool = True, **kwargs: Any) → VisionTransformer

根据《An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale》构建 vit_b_16 架构。

参数：

• weights (ViT_B_16_Weights, 可选) – 要使用的预训练权重。有关详细信息和可能的值，请参见下方的ViT_B_16_Weights。默认情况下，不使用预训练权重。

• progress (bool, 可选) – 如果为 True，则在 stderr 中显示下载进度条。默认值为 True。

• **kwargs – 传递给torchvision.models.vision_transformer.VisionTransformer基类的参数。有关此类的更多详细信息，请参阅源代码。

class torchvision.models.ViT_B_16_Weights(value)

上面的模型构建器接受以下值作为weights参数。ViT_B_16_Weights.DEFAULT等同于ViT_B_16_Weights.IMAGENET1K_V1。您也可以使用字符串，例如weights='DEFAULT'或weights='IMAGENET1K_V1'。

ViT_B_16_Weights.IMAGENET1K_V1:

这些权重是使用DeIT训练方案的修改版本从头开始训练的。也可用作ViT_B_16_Weights.DEFAULT。

acc@1 (在 ImageNet-1K 上)	81.072
acc@5 (在 ImageNet-1K 上)	95.318
类别	丁鲷、金鱼、大白鲨，…… (省略了 997 个)
参数数量	86567656
最小尺寸	高度=224，宽度=224
方案	链接
GFLOPS	17.56
文件大小	330.3 MB

推理变换可通过ViT_B_16_Weights.IMAGENET1K_V1.transforms获取，并执行以下预处理操作：接受PIL.Image、批处理(B, C, H, W)和单个(C, H, W)图像torch.Tensor对象。图像使用interpolation=InterpolationMode.BILINEAR被重塑为resize_size=[256]，然后进行中心裁剪，大小为crop_size=[224]。最后，值首先被重新缩放到[0.0, 1.0]，然后使用mean=[0.485, 0.456, 0.406]和std=[0.229, 0.224, 0.225]进行归一化。

ViT_B_16_Weights.IMAGENET1K_SWAG_E2E_V1:

这些权重是通过迁移学习获得的，方法是对原始SWAG权重在 ImageNet-1K 数据上进行端到端微调。

acc@1 (在 ImageNet-1K 上)	85.304
acc@5 (在 ImageNet-1K 上)	97.65
类别	丁鲷、金鱼、大白鲨，…… (省略了 997 个)
方案	链接
许可证	链接
参数数量	86859496
最小尺寸	高度=384，宽度=384
GFLOPS	55.48
文件大小	331.4 MB

推理变换可通过ViT_B_16_Weights.IMAGENET1K_SWAG_E2E_V1.transforms获取，并执行以下预处理操作：接受PIL.Image、批处理(B, C, H, W)和单个(C, H, W)图像torch.Tensor对象。图像使用interpolation=InterpolationMode.BICUBIC被重塑为resize_size=[384]，然后进行中心裁剪，大小为crop_size=[384]。最后，值首先被重新缩放到[0.0, 1.0]，然后使用mean=[0.485, 0.456, 0.406]和std=[0.229, 0.224, 0.225]进行归一化。

ViT_B_16_Weights.IMAGENET1K_SWAG_LINEAR_V1:

这些权重由原始冻结的SWAG主干权重以及在其之上训练的线性分类器组成，训练数据为 ImageNet-1K。

acc@1 (在 ImageNet-1K 上)	81.886
acc@5 (在 ImageNet-1K 上)	96.18
类别	丁鲷、金鱼、大白鲨，…… (省略了 997 个)
方案	链接
许可证	链接
参数数量	86567656
最小尺寸	高度=224，宽度=224
GFLOPS	17.56
文件大小	330.3 MB

推理变换可通过ViT_B_16_Weights.IMAGENET1K_SWAG_LINEAR_V1.transforms获取，并执行以下预处理操作：接受PIL.Image、批处理(B, C, H, W)和单个(C, H, W)图像torch.Tensor对象。图像使用interpolation=InterpolationMode.BICUBIC被重塑为resize_size=[224]，然后进行中心裁剪，大小为crop_size=[224]。最后，值首先被重新缩放到[0.0, 1.0]，然后使用mean=[0.485, 0.456, 0.406]和std=[0.229, 0.224, 0.225]进行归一化。