Opus Mt Tc Big En Es
OPUS-MT项目提供的英语到西班牙语神经机器翻译模型,基于transformer-big架构
下载量 29.31k
发布时间 : 4/13/2022
模型简介
该模型是OPUS-MT项目的一部分,专门用于从英语(en)到西班牙语(es)的神经机器翻译。模型使用Marian NMT框架训练,并通过transformers库转换为pyTorch格式。
模型特点
高质量翻译
在多个测试集上表现出色,BLEU分数在28.5到57.2之间
多领域适用
在新闻、日常对话等多种文本类型上均有良好表现
开源许可
采用cc-by-4.0许可证,允许商业和研究使用
模型能力
英语到西班牙语文本翻译
多领域文本处理
批量翻译
使用案例
内容本地化
新闻翻译
将英语新闻内容翻译为西班牙语
在news-test2008测试集上BLEU得分30.1
日常对话翻译
翻译日常对话和简单句子
在tatoeba-test-v2021-08-07测试集上BLEU得分57.2
教育
语言学习辅助
为语言学习者提供翻译参考
🚀 opus-mt-tc-big-en-es
opus-mt-tc-big-en-es 是一款用于将英语(en)翻译成西班牙语(es)的神经机器翻译模型。该模型属于 OPUS - MT 项目 的一部分,此项目致力于让神经机器翻译模型在全球多种语言中广泛可用且易于获取。所有模型最初使用 Marian NMT 这一出色的框架进行训练,它是一个用纯 C++ 编写的高效神经机器翻译实现。这些模型已通过 huggingface 的 transformers 库转换为 PyTorch 格式。训练数据来自 OPUS,训练流程采用 OPUS - MT - train 的方法。
- 相关出版物:OPUS - MT – Building open translation services for the World 和 The Tatoeba Translation Challenge – Realistic Data Sets for Low Resource and Multilingual MT(如果您使用此模型,请进行引用)
@inproceedings{tiedemann-thottingal-2020-opus,
title = "{OPUS}-{MT} {--} Building open translation services for the World",
author = {Tiedemann, J{\"o}rg and Thottingal, Santhosh},
booktitle = "Proceedings of the 22nd Annual Conference of the European Association for Machine Translation",
month = nov,
year = "2020",
address = "Lisboa, Portugal",
publisher = "European Association for Machine Translation",
url = "https://aclanthology.org/2020.eamt-1.61",
pages = "479--480",
}
@inproceedings{tiedemann-2020-tatoeba,
title = "The Tatoeba Translation Challenge {--} Realistic Data Sets for Low Resource and Multilingual {MT}",
author = {Tiedemann, J{\"o}rg},
booktitle = "Proceedings of the Fifth Conference on Machine Translation",
month = nov,
year = "2020",
address = "Online",
publisher = "Association for Computational Linguistics",
url = "https://aclanthology.org/2020.wmt-1.139",
pages = "1174--1182",
}
🚀 快速开始
本模型可用于将英语翻译成西班牙语,以下是使用示例。
✨ 主要特性
- 属于 OPUS - MT 项目,致力于提供多语言的机器翻译模型。
- 基于 Marian NMT 框架训练,后转换为 PyTorch 格式。
- 训练数据来自 OPUS,采用 OPUS - MT - train 的训练流程。
📦 安装指南
文档未提及安装步骤,暂不提供。
💻 使用示例
基础用法
from transformers import MarianMTModel, MarianTokenizer
src_text = [
"A wasp stung him and he had an allergic reaction.",
"I love nature."
]
model_name = "pytorch-models/opus-mt-tc-big-en-es"
tokenizer = MarianTokenizer.from_pretrained(model_name)
model = MarianMTModel.from_pretrained(model_name)
translated = model.generate(**tokenizer(src_text, return_tensors="pt", padding=True))
for t in translated:
print( tokenizer.decode(t, skip_special_tokens=True) )
# expected output:
# Una avispa lo picó y tuvo una reacción alérgica.
# Me encanta la naturaleza.
高级用法
from transformers import pipeline
pipe = pipeline("translation", model="Helsinki-NLP/opus-mt-tc-big-en-es")
print(pipe("A wasp stung him and he had an allergic reaction."))
# expected output: Una avispa lo picó y tuvo una reacción alérgica.
📚 详细文档
模型信息
属性 | 详情 |
---|---|
发布时间 | 2022 - 03 - 13 |
源语言 | 英语(eng) |
目标语言 | 西班牙语(spa) |
模型类型 | transformer - big |
训练数据 | opusTCv20210807 + bt (来源) |
分词方式 | SentencePiece (spm32k, spm32k) |
原始模型 | [opusTCv20210807 + bt_transformer - big_2022 - 03 - 13.zip](https://object.pouta.csc.fi/Tatoeba-MT-models/eng - spa/opusTCv20210807 + bt_transformer - big_2022 - 03 - 13.zip) |
更多信息 | [OPUS - MT eng - spa README](https://github.com/Helsinki-NLP/Tatoeba-Challenge/tree/master/models/eng - spa/README.md) |
基准测试
- 测试集翻译结果:[opusTCv20210807 + bt_transformer - big_2022 - 03 - 13.test.txt](https://object.pouta.csc.fi/Tatoeba-MT-models/eng - spa/opusTCv20210807 + bt_transformer - big_2022 - 03 - 13.test.txt)
- 测试集得分:[opusTCv20210807 + bt_transformer - big_2022 - 03 - 13.eval.txt](https://object.pouta.csc.fi/Tatoeba-MT-models/eng - spa/opusTCv20210807 + bt_transformer - big_2022 - 03 - 13.eval.txt)
- 基准测试结果:benchmark_results.txt
- 基准测试输出:benchmark_translations.zip
语言对 | 测试集 | chr - F | BLEU | 句子数量 | 单词数量 |
---|---|---|---|---|---|
eng - spa | tatoeba - test - v2021 - 08 - 07 | 0.73863 | 57.2 | 16583 | 134710 |
eng - spa | flores101 - devtest | 0.56440 | 28.5 | 1012 | 29199 |
eng - spa | newssyscomb2009 | 0.58415 | 31.5 | 502 | 12503 |
eng - spa | news - test2008 | 0.56707 | 30.1 | 2051 | 52586 |
eng - spa | newstest2009 | 0.57836 | 30.2 | 2525 | 68111 |
eng - spa | newstest2010 | 0.62357 | 37.6 | 2489 | 65480 |
eng - spa | newstest2011 | 0.62415 | 38.9 | 3003 | 79476 |
eng - spa | newstest2012 | 0.63031 | 39.5 | 3003 | 79006 |
eng - spa | newstest2013 | 0.60354 | 35.9 | 3000 | 70528 |
eng - spa | tico19 - test | 0.73554 | 53.0 | 2100 | 66563 |
🔧 技术细节
文档未提及具体技术实现细节,暂不提供。
📄 许可证
本模型使用的许可证为 cc - by - 4.0。
致谢
本工作得到了以下项目的支持:
- [欧洲语言网格](https://www.european - language - grid.eu/) 的 [试点项目 2866](https://live.european - language - grid.eu/catalogue/#/resource/projects/2866)。
- [FoTran 项目](https://www.helsinki.fi/en/researchgroups/natural - language - understanding - with - cross - lingual - grounding),由欧盟的“地平线 2020”研究与创新计划(资助协议编号 771113)资助。
- MeMAD 项目,由欧盟的“地平线 2020”研究与创新计划(资助协议编号 780069)资助。
同时,我们感谢 芬兰科学信息技术中心(CSC) 提供的慷慨计算资源和 IT 基础设施。
模型转换信息
属性 | 详情 |
---|---|
transformers 版本 | 4.16.2 |
OPUS - MT git 哈希值 | 3405783 |
转换时间 | 2022 年 4 月 13 日星期三 18:03:53 EEST |
转换机器 | LM0 - 400 - 22516.local |
M2m100 418M
MIT
M2M100是一个多语言编码器-解码器模型,支持100种语言的9900个翻译方向
机器翻译 支持多种语言
M
facebook
1.6M
299
Opus Mt Fr En
Apache-2.0
基于Transformer的法语到英语神经机器翻译模型,由Helsinki-NLP团队开发,采用OPUS多语数据集训练。
机器翻译 支持多种语言
O
Helsinki-NLP
1.2M
44
Opus Mt Ar En
Apache-2.0
基于OPUS数据训练的阿拉伯语到英语的机器翻译模型,采用transformer-align架构
机器翻译 支持多种语言
O
Helsinki-NLP
579.41k
42
M2m100 1.2B
MIT
M2M100是一个支持100种语言的多语言机器翻译模型,可直接在9900个翻译方向之间进行翻译。
机器翻译 支持多种语言
M
facebook
501.82k
167
Indictrans2 Indic En 1B
MIT
支持25种印度语言与英语互译的1.1B参数规模机器翻译模型,由AI4Bharat项目开发
机器翻译
Transformers 支持多种语言

I
ai4bharat
473.63k
14
Opus Mt En Zh
Apache-2.0
基于Transformer架构的英汉多方言翻译模型,支持英语到13种汉语变体的翻译任务
机器翻译 支持多种语言
O
Helsinki-NLP
442.08k
367
Opus Mt Zh En
由赫尔辛基大学开发的基于OPUS语料库的中文到英语机器翻译模型
机器翻译 支持多种语言
O
Helsinki-NLP
441.24k
505
Mbart Large 50 Many To Many Mmt
基于mBART-large-50微调的多语言机器翻译模型,支持50种语言间的互译
机器翻译 支持多种语言
M
facebook
404.66k
357
Opus Mt De En
Apache-2.0
opus-mt-de-en 是一个基于 transformer-align 架构的德语到英语的机器翻译模型,由 Helsinki-NLP 团队开发。
机器翻译 支持多种语言
O
Helsinki-NLP
404.33k
44
Opus Mt Es En
Apache-2.0
这是一个基于Transformer架构的西班牙语到英语的机器翻译模型,由Helsinki-NLP团队开发。
机器翻译
Transformers 支持多种语言

O
Helsinki-NLP
385.40k
71
精选推荐AI模型
Llama 3 Typhoon V1.5x 8b Instruct
专为泰语设计的80亿参数指令模型,性能媲美GPT-3.5-turbo,优化了应用场景、检索增强生成、受限生成和推理任务
大型语言模型
Transformers 支持多种语言

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一个基于SODA数据集训练的超小型对话模型,专为边缘设备推理设计,体积仅为Cosmo-3B模型的2%左右。
对话系统
Transformers 英语

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基于RoBERTa架构的中文抽取式问答模型,适用于从给定文本中提取答案的任务。
问答系统 中文
R
uer
2,694
98
智启未来,您的人工智能解决方案智库
简体中文