B

Bert Large Swedish Cased

由 AI-Nordics 开发
基于Megatron-LM框架实现的瑞典语Bert Large模型,包含3.4亿参数,在85GB瑞典语文本上预训练
下载量 734
发布时间 : 3/2/2022
模型介绍
内容详情
替代品

模型简介

该模型是一个大型瑞典语BERT模型,主要用于掩码语言建模和下一句预测任务,可通过微调用于特定领域任务

模型特点

大规模预训练
在85GB瑞典语多样化语料库上训练,涵盖政治、法律、医疗等多个领域
深度模型架构
采用24层Transformer结构,16个注意力头,支持1024上下文长度
广泛数据来源
整合了维基百科、政府报告、文学作品、网络数据等10余种数据源

模型能力

瑞典语文本理解
掩码语言建模
下一句预测
文本特征提取

使用案例

文本处理
瑞典语文本分类
通过微调模型对瑞典语文本进行分类
问答系统
构建瑞典语问答系统的基础模型
信息提取
命名实体识别
识别瑞典语文本中的特定实体