library_name: transformers datasets:

• laicsiifes/flickr30k-pt-br language:
• pt metrics:
• bleu
• rouge
• meteor
• bertscore base_model:
• adalbertojunior/distilbert-portuguese-cased pipeline_tag: image-to-text model-index:
• name: Swin-DistilBERTimbau results:
  • task: name: 图像描述生成 type: image-to-text dataset: name: Flickr30K type: laicsiifes/flickr30k-pt-br split: test metrics:
    • name: CIDEr-D type: cider value: 66.73
    • name: BLEU@4 type: bleu value: 24.65
    • name: ROUGE-L type: rouge value: 39.98
    • name: METEOR type: meteor value: 44.71
    • name: BERTScore type: bertscore value: 72.3 license: mit

🎉 Swin-DistilBERTimbau：巴西葡萄牙语图像描述生成模型

Swin-DistilBERTimbau模型在Flickr30K葡萄牙语数据集（使用谷歌翻译API转换的版本）上训练，用于图像描述生成，分辨率为224x224，最大序列长度为512个标记。

🤖 模型描述

Swin-DistilBERTimbau是一种视觉编码器-解码器模型，利用Swin Transformer的检查点作为编码器，DistilBERTimbau的检查点作为解码器。编码器检查点来自在ImageNet-1k上预训练的Swin Transformer版本，分辨率为224x224。

训练和评估代码可在以下链接获取：https://github.com/laicsiifes/ved-transformer-caption-ptbr。在这项工作中，Swin-DistilBERTimbau与其伙伴模型Swin-GPorTuguese-2一起训练。

其他评估的模型表现不如Swin-DistilBERTimbau和Swin-GPorTuguese-2，包括：DeiT-BERTimbau、DeiT-DistilBERTimbau、DeiT-GPorTuguese-2、Swin-BERTimbau、ViT-BERTimbau、ViT-DistilBERTimbau和ViT-GPorTuguese-2。

🧑‍💻 如何使用模型

使用以下代码开始使用模型。

import requests
from PIL import Image

from transformers import AutoTokenizer, AutoImageProcessor, VisionEncoderDecoderModel

# 加载微调后的图像描述生成模型及对应的分词器和图像处理器
model = VisionEncoderDecoderModel.from_pretrained("laicsiifes/swin-distilbertimbau")
tokenizer = AutoTokenizer.from_pretrained("laicsiifes/swin-distilbertimbau")
image_processor = AutoImageProcessor.from_pretrained("laicsiifes/swin-distilbertimbau")

# 预处理图像
url = "http://images.cocodataset.org/val2014/COCO_val2014_000000458153.jpg"
image = Image.open(requests.get(url, stream=True).raw)
pixel_values = image_processor(image, return_tensors="pt").pixel_values

# 生成描述
generated_ids = model.generate(pixel_values)
generated_text = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]

import matplotlib.pyplot as plt

# 绘制图像及描述
plt.imshow(image)
plt.axis("off")
plt.title(generated_text)
plt.show()

📈 结果

评估指标CIDEr-D、BLEU@4、ROUGE-L、METEOR和BERTScore（使用BERTimbau）分别简称为C、B@4、RL、M和BS。

📋 BibTeX条目及引用信息

@inproceedings{bromonschenkel2024comparative,
  title={基于Transformer的视觉编码器-解码器模型在巴西葡萄牙语图像描述生成中的比较评估},
  author={Bromonschenkel, Gabriel and Oliveira, Hil{\'a}rio and Paix{\~a}o, Thiago M},
  booktitle={2024年第37届SIBGRAPI图形、模式与图像会议（SIBGRAPI）},
  pages={1--6},
  year={2024},
  organization={IEEE}
}