语言:
- 英语
- 匈牙利语
标签:
- 翻译
- opus-mt-tc
许可证: cc-by-4.0
模型索引:
- 名称: opus-mt-tc-big-hu-en
结果:
- 任务:
名称: 匈牙利语-英语翻译
类型: 翻译
参数: hun-eng
数据集:
名称: flores101-devtest
类型: flores_101
参数: hun eng devtest
指标:
- 名称: BLEU
类型: bleu
值: 34.6
- 任务:
名称: 匈牙利语-英语翻译
类型: 翻译
参数: hun-eng
数据集:
名称: tatoeba-test-v2021-08-07
类型: tatoeba_mt
参数: hun-eng
指标:
- 名称: BLEU
类型: bleu
值: 50.4
- 任务:
名称: 匈牙利语-英语翻译
类型: 翻译
参数: hun-eng
数据集:
名称: newstest2009
类型: wmt-2009-news
参数: hun-eng
指标:
- 名称: BLEU
类型: bleu
值: 23.4
opus-mt-tc-big-hu-en
这是一个用于从匈牙利语(hu)翻译到英语(en)的神经机器翻译模型。
该模型是OPUS-MT项目的一部分,该项目致力于使神经机器翻译模型在全球多种语言中广泛可用和可访问。所有模型最初都是使用Marian NMT这一纯C++编写的高效NMT实现框架进行训练。模型已通过huggingface的transformers库转换为pyTorch格式。训练数据取自OPUS,训练流程使用了OPUS-MT-train的程序。
@inproceedings{tiedemann-thottingal-2020-opus,
title = "{OPUS}-{MT} {--} 为世界构建开放的翻译服务",
author = {Tiedemann, J{\"o}rg 和 Thottingal, Santhosh},
booktitle = "第22届欧洲机器翻译协会年会论文集",
month = 11月,
year = "2020",
address = "葡萄牙里斯本",
publisher = "欧洲机器翻译协会",
url = "https://aclanthology.org/2020.eamt-1.61",
pages = "479--480",
}
@inproceedings{tiedemann-2020-tatoeba,
title = "Tatoeba翻译挑战 {--} 为低资源和多语言{MT}提供真实数据集",
author = {Tiedemann, J{\"o}rg},
booktitle = "第五届机器翻译会议论文集",
month = 11月,
year = "2020",
address = "线上",
publisher = "计算语言学协会",
url = "https://aclanthology.org/2020.wmt-1.139",
pages = "1174--1182",
}
模型信息
使用示例
简短示例代码:
from transformers import MarianMTModel, MarianTokenizer
src_text = [
"Bárcsak ne láttam volna ilyen borzalmas filmet!",
"Iskolában van."
]
model_name = "pytorch-models/opus-mt-tc-big-hu-en"
tokenizer = MarianTokenizer.from_pretrained(model_name)
model = MarianMTModel.from_pretrained(model_name)
translated = model.generate(**tokenizer(src_text, return_tensors="pt", padding=True))
for t in translated:
print( tokenizer.decode(t, skip_special_tokens=True) )
也可以使用transformers的pipeline:
from transformers import pipeline
pipe = pipeline("translation", model="Helsinki-NLP/opus-mt-tc-big-hu-en")
print(pipe("Bárcsak ne láttam volna ilyen borzalmas filmet!"))
基准测试
语言对 |
测试集 |
chr-F |
BLEU |
句子数 |
词数 |
hun-eng |
tatoeba-test-v2021-08-07 |
0.66644 |
50.4 |
13037 |
94699 |
hun-eng |
flores101-devtest |
0.61974 |
34.6 |
1012 |
24721 |
hun-eng |
newssyscomb2009 |
0.52563 |
24.7 |
502 |
11818 |
hun-eng |
newstest2009 |
0.51698 |
23.4 |
2525 |
65399 |
致谢
本工作得到了欧洲语言网格作为试点项目2866、由欧洲研究理事会(ERC)根据欧盟Horizon 2020研究与创新计划(资助协议号771113)资助的FoTran项目,以及欧盟Horizon 2020研究与创新计划(资助协议号780069)资助的MeMAD项目的支持。我们也感谢CSC – 芬兰IT科学中心提供的慷慨计算资源和IT基础设施。
模型转换信息
- transformers版本: 4.16.2
- OPUS-MT git哈希: 3405783
- 转换时间: 2022年4月13日星期三 EEST 19:33:38
- 转换机器: LM0-400-22516.local