R

Robbertje 1 Gb Merged

由 DTAI-KULeuven 开发
RobBERTje是基于RobBERT蒸馏的一系列荷兰语模型,提供不同规模和训练设置的版本,适用于多种自然语言处理任务。
下载量 39
发布时间 : 3/2/2022
模型介绍
内容详情
替代品

模型简介

RobBERTje是基于RobBERT的蒸馏模型集合,专门针对荷兰语优化,提供多种参数规模的版本以适应不同计算需求。

模型特点

多版本选择
提供4种不同训练设置的模型版本,包括非乱序版、乱序版、合并版和精简BORT版
高效蒸馏
通过知识蒸馏技术从RobBERT教师模型中学习,保持性能的同时大幅减少参数量
广泛评估
在多个荷兰语NLP任务(DBRD、DIE-DAT、NER、POS、SICK-NL)上进行了全面评估

模型能力

荷兰语文本理解
掩码语言建模
文本分类
命名实体识别
词性标注
自然语言推理

使用案例

学术研究
荷兰语NLP研究
用于荷兰语自然语言处理任务的基准模型和研究工具
在多个任务上接近教师模型RobBERT的性能
工业应用
荷兰语文本处理
适用于需要荷兰语理解能力的商业应用,如客服机器人、内容审核等
提供高效的推理性能,适合资源受限环境