语言: 越南语 数据集:

• cc100 标签:
• 摘要生成

许可证: mit

微件示例:

• 文本: "vietnews: VietAI是一个非营利组织，其使命是培育人工智能领域的人才，并在越南建立一个国际水准的人工智能专家社区。"

基于vietnews摘要任务微调的ViT5-large模型

越南语最先进的预训练Transformer编码器-解码器模型。

使用方法

更多详情请查看我们的Github仓库和评估脚本。

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM

tokenizer = AutoTokenizer.from_pretrained("VietAI/vit5-large-vietnews-summarization")  
model = AutoModelForSeq2SeqLM.from_pretrained("VietAI/vit5-large-vietnews-summarization")
model.cuda()

sentence = "VietAI是一个非营利组织，其使命是培育人工智能领域的人才，并在越南建立一个国际水准的人工智能专家社区。"
text =  "vietnews: " + sentence + " </s>"
encoding = tokenizer(text, return_tensors="pt")
input_ids, attention_masks = encoding["input_ids"].to("cuda"), encoding["attention_mask"].to("cuda")
outputs = model.generate(
    input_ids=input_ids, attention_mask=attention_masks,
    max_length=256,
    early_stopping=True
)
for output in outputs:
    line = tokenizer.decode(output, skip_special_tokens=True, clean_up_tokenization_spaces=True)
    print(line)

引用

@inproceedings{phan-etal-2022-vit5,
    title = "{V}i{T}5: 越南语生成的预训练文本到文本Transformer模型",
    author = "Phan, Long and Tran, Hieu and Nguyen, Hieu and Trinh, Trieu H.",
    booktitle = "北美计算语言学协会2022年会会议录: 学生研究研讨会",
    year = "2022",
    publisher = "计算语言学协会",
    url = "https://aclanthology.org/2022.naacl-srw.18",
    pages = "136--142",
}