T5-EN-VI-SMALL：面向英越翻译的文本到文本迁移转换器预训练模型

数据集

采用斯坦福NLP小组提供的IWSLT'15 英越数据集。所有实验数据均划分为训练集、开发集和测试集：

实验结果

测试集上的性能表现：

使用示例

import torch

from transformers import T5ForConditionalGeneration, T5Tokenizer
import torch
if torch.cuda.is_available():       
    device = torch.device("cuda")

    print('检测到%d块可用GPU.' % torch.cuda.device_count())

    print('将使用GPU设备:', torch.cuda.get_device_name(0))
else:
    print('未检测到GPU，将使用CPU运行。')
    device = torch.device("cpu")

model = T5ForConditionalGeneration.from_pretrained("NlpHUST/t5-en-vi-small")
tokenizer = T5Tokenizer.from_pretrained("NlpHUST/t5-en-vi-small")
model.to(device)

src = "In school , we spent a lot of time studying the history of Kim Il-Sung , but we never learned much about the outside world , except that America , South Korea , Japan are the enemies ."
tokenized_text = tokenizer.encode(src, return_tensors="pt").to(device)
model.eval()
summary_ids = model.generate(
                    tokenized_text,
                    max_length=128, 
                    num_beams=5,
                    repetition_penalty=2.5, 
                    length_penalty=1.0, 
                    early_stopping=True
                )
output = tokenizer.decode(summary_ids[0], skip_special_tokens=True)
print(output)

输出结果

在学校里，我们花了很多时间研究金日成的历史，但除了知道美国、韩国、日本是敌人外，对外部世界了解甚少。

联系方式

有关本项目的个人沟通事宜，请联系阮文雅(nha282@gmail.com)。