许可协议:apache-2.0
标签:
- 视觉
- 图像分类
数据集:
- imagenet-1k
小部件示例:
- 图片链接:https://huggingface.co/datasets/mishig/sample_images/resolve/main/tiger.jpg
示例标题:老虎
- 图片链接:https://huggingface.co/datasets/mishig/sample_images/resolve/main/teapot.jpg
示例标题:茶壶
- 图片链接:https://huggingface.co/datasets/mishig/sample_images/resolve/main/palace.jpg
示例标题:宫殿
Swin Transformer(小型模型)
该Swin Transformer模型在ImageNet-1k数据集上以224x224分辨率训练而成。它由Liu等人在论文《Swin Transformer: Hierarchical Vision Transformer using Shifted Windows》中提出,并首次发布于此代码库。
免责声明:发布Swin Transformer的团队未为此模型编写模型卡,因此本模型卡由Hugging Face团队撰写。
模型描述
Swin Transformer是一种视觉Transformer模型。它通过在深层合并图像块(灰色部分)构建层次化特征图,并且由于仅在局部窗口(红色部分)内计算自注意力,其计算复杂度与输入图像大小呈线性关系。因此,它可以作为图像分类和密集识别任务的通用骨干网络。相比之下,先前的视觉Transformer由于全局计算自注意力,仅生成单一低分辨率特征图,且计算复杂度与输入图像大小呈平方关系。

来源
预期用途与限制
您可以将该原始模型用于图像分类任务。请访问模型中心查找您感兴趣任务的微调版本。
使用方法
以下示例展示如何使用该模型将COCO 2017数据集中的一张图像分类为1000个ImageNet类别之一:
from transformers import AutoFeatureExtractor, SwinForImageClassification
from PIL import Image
import requests
url = "http://images.cocodataset.org/val2017/000000039769.jpg"
image = Image.open(requests.get(url, stream=True).raw)
feature_extractor = AutoFeatureExtractor.from_pretrained("microsoft/swin-small-patch4-window7-224")
model = SwinForImageClassification.from_pretrained("microsoft/swin-small-patch4-window7-224")
inputs = feature_extractor(images=image, return_tensors="pt")
outputs = model(**inputs)
logits = outputs.logits
predicted_class_idx = logits.argmax(-1).item()
print("预测类别:", model.config.id2label[predicted_class_idx])
更多代码示例,请参阅文档。
BibTeX引用信息
@article{DBLP:journals/corr/abs-2103-14030,
author = {Ze Liu and
Yutong Lin and
Yue Cao and
Han Hu and
Yixuan Wei and
Zheng Zhang and
Stephen Lin and
Baining Guo},
title = {Swin Transformer: Hierarchical Vision Transformer using Shifted Windows},
journal = {CoRR},
volume = {abs/2103.14030},
year = {2021},
url = {https://arxiv.org/abs/2103.14030},
eprinttype = {arXiv},
eprint = {2103.14030},
timestamp = {Thu, 08 Apr 2021 07:53:26 +0200},
biburl = {https://dblp.org/rec/journals/corr/abs-2103-14030.bib},
bibsource = {dblp computer science bibliography, https://dblp.org}
}