语言: 越南语
数据集:

• cc100

标签:

• 摘要生成
• 翻译
• 问答

许可证: mit

ViT5-base

基于Transformer的越南语最先进预训练编码器-解码器模型。

使用方法

更多详情，请查看我们的Github仓库。

微调示例可在此处找到。

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM  

tokenizer = AutoTokenizer.from_pretrained("VietAI/vit5-base")  
model = AutoModelForSeq2SeqLM.from_pretrained("VietAI/vit5-base")  
model.cuda()  

引用

@inproceedings{phan-etal-2022-vit5,  
    title = "{V}i{T}5: 越南语生成的预训练文本到文本Transformer模型",  
    author = "Phan, Long and Tran, Hieu and Nguyen, Hieu and Trinh, Trieu H.",  
    booktitle = "北美计算语言学协会2022年会会议录: 人类语言技术: 学生研究研讨会",  
    year = "2022",  
    publisher = "计算语言学协会",  
    url = "https://aclanthology.org/2022.naacl-srw.18",  
    pages = "136--142",  
}