许可证: mit
标签:

• donut
• 图像转文本
• 视觉

Donut (基础尺寸模型，基于RVL-CDIP微调)

基于RVL-CDIP微调的Donut模型。该模型由Geewok等人在论文《无需OCR的文档理解Transformer》中提出，并首次发布于此代码库。

免责声明：发布Donut的团队未为此模型编写模型卡片，故本卡片由Hugging Face团队撰写。

模型描述

Donut由视觉编码器（Swin Transformer）和文本解码器（BART）组成。给定一张图像，编码器首先将其编码为嵌入张量（形状为batch_size, seq_len, hidden_size），随后解码器基于编码器的输出自回归生成文本。

预期用途与限制

本模型基于文档图像分类数据集RVL-CDIP微调。

具体使用示例请参阅文档。

BibTeX条目与引用信息

@article{DBLP:journals/corr/abs-2111-15664,  
  author    = {Geewook Kim and  
               Teakgyu Hong and  
               Moonbin Yim and  
               Jinyoung Park and  
               Jinyeong Yim and  
               Wonseok Hwang and  
               Sangdoo Yun and  
               Dongyoon Han and  
               Seunghyun Park},  
  title     = {Donut: Document Understanding Transformer without {OCR}},  
  journal   = {CoRR},  
  volume    = {abs/2111.15664},  
  year      = {2021},  
  url       = {https://arxiv.org/abs/2111.15664},  
  eprinttype = {arXiv},  
  eprint    = {2111.15664},  
  timestamp = {Thu, 02 Dec 2021 10:50:44 +0100},  
  biburl    = {https://dblp.org/rec/journals/corr/abs-2111-15664.bib},  
  bibsource = {dblp computer science bibliography, https://dblp.org}  
}