X

Xlm Roberta Base Uk

由 ukr-models 开发
这是XLM-RoBERTa模型的缩小版本,专门针对乌克兰语和部分英语进行了优化,参数数量从4.7亿缩减至1.34亿。
下载量 78
发布时间 : 3/11/2022
模型介绍
内容详情
替代品

模型简介

该模型是基于XLM-RoBERTa架构的精简版本,保留了乌克兰语和主要英语的嵌入,适用于乌克兰语文本处理任务。

模型特点

精简词汇表
将原始词汇表从25万缩减至3.1万,专注于乌克兰语和主要英语词汇。
参数优化
模型参数从4.7亿降至1.34亿,体积从1GB缩小至400MB,更适合资源有限的环境。
乌克兰语专注
保留了前2.5万乌克兰语词条,对乌克兰语文本处理有更好支持。

模型能力

文本填充
乌克兰语文本处理
英语文本处理

使用案例

文本处理
乌克兰语文本补全
用于填充乌克兰语文本中的缺失部分
跨语言文本处理
处理乌克兰语和英语混合的文本内容