许可证: mit 标签:

• donut
• uae-license
• 视觉
• 图像转文本

Donut (基础尺寸模型，基于RVL-CDIP微调)

基于RVL-CDIP微调的Donut模型。该模型由Geewok等人在论文无需OCR的文档理解Transformer中提出，并首次发布于此代码库。

免责声明: 发布Donut的团队未为此模型编写模型卡片，故本卡片由Hugging Face团队撰写。

模型描述

Donut由视觉编码器(Swin Transformer)和文本解码器(BART)组成。给定图像时，编码器首先将图像编码为嵌入张量(形状为batch_size, seq_len, hidden_size)，随后解码器基于编码器的输出自回归生成文本。

预期用途与限制

本模型基于文档图像分类数据集RVL-CDIP进行微调。

我们推荐查阅包含代码示例的官方文档。

BibTeX条目与引用信息

@article{DBLP:journals/corr/abs-2111-15664,
  author    = {Geewook Kim and
               Teakgyu Hong and
               Moonbin Yim and
               Jinyoung Park and
               Jinyeong Yim and
               Wonseok Hwang and
               Sangdoo Yun and
               Dongyoon Han and
               Seunghyun Park},
  title     = {Donut: 无需OCR的文档理解Transformer},
  journal   = {CoRR},
  volume    = {abs/2111.15664},
  year      = {2021},
  url       = {https://arxiv.org/abs/2111.15664},
  eprinttype = {arXiv},
  eprint    = {2111.15664},
  timestamp = {Thu, 02 Dec 2021 10:50:44 +0100},
  biburl    = {https://dblp.org/rec/journals/corr/abs-2111-15664.bib},
  bibsource = {dblp计算机科学文献库, https://dblp.org}
}