R

Roberta Small Greek

由 ClassCat 开发
这是一个基于RoBERTa架构的小型希腊语语言模型,参数规模约为基础模型的一半,适用于希腊语文本的填充掩码任务。
下载量 22
发布时间 : 7/20/2022
模型介绍
内容详情
替代品

模型简介

该模型是一个基于RoBERTa架构的小型希腊语语言模型,主要用于希腊语文本的填充掩码任务。它使用了BPE分词器,词汇量为50,000,训练数据包括CC-100/el、OSCAR和希腊语维基百科的子集。

模型特点

小型化设计
参数规模约为RoBERTa基础模型的一半,适合资源有限的环境。
希腊语支持
专门针对希腊语文本进行优化,适用于希腊语的自然语言处理任务。
BPE分词器
使用BPE分词器,词汇量为50,000,能够有效处理希腊语文本。

模型能力

希腊语文本填充掩码

使用案例

自然语言处理
文本补全
用于补全希腊语文本中的缺失部分。
语言模型预训练
作为希腊语语言模型的预训练基础。