语言: 瑞典语
许可协议: CC-BY-4.0
标签:

• 瑞典语
• RoBERTa
  任务类型: 填充掩码
  示例输入:
• 文本: 生命的意义是。

北欧RoBERTa维基百科模型

模型描述

基于瑞典语、丹麦语和挪威语维基百科训练的北欧RoBERTa模型。

评估结果

丹麦语命名实体识别评估

在DaNE数据集上对每个模型进行3轮微调，每个模型重复5次实验，并计算平均值的95%置信区间。结果如下：

xlm-roberta-base : 88.01 ± 0.43
flax-community/nordic-roberta-wiki: 85.75 ± 0.69 (当前模型)
Maltehb/danish-bert-botxo: 85.38 ± 0.55
flax-community/roberta-base-danish: 80.14 ± 1.47
flax-community/roberta-base-scandinavian: 78.03 ± 3.02
Maltehb/-l-ctra-danish-electra-small-cased: 57.87 ± 3.19
NbAiLab/nb-bert-base: 30.24 ± 1.21
随机初始化的RoBERTa模型: 19.79 ± 2.00

丹麦语情感分析评估

测试集结果（每个模型训练5次，"±"表示平均得分的95%置信区间）：

Maltehb/danish-bert-botxo: 65.19 ± 0.53
NbAiLab/nb-bert-base: 63.80 ± 0.77
xlm-roberta-base: 63.55 ± 1.59
flax-community/nordic-roberta-wiki: 56.46 ± 1.77
flax-community/roberta-base-danish: 54.73 ± 8.96
flax-community/roberta-base-scandinavian: 44.28 ± 9.21
Maltehb/-l-ctra-danish-electra-small-cased: 47.78 ± 12.65
随机初始化的RoBERTa模型: 36.96 ± 1.02
Maltehb/roberta-base-scandinavian: 33.65 ± 8.32

模型系列

本模型属于Huggingface Flax/Jax挑战赛期间使用TPU和Flax Jax训练的模型系列。

GPT模型

瑞典语GPT

https://huggingface.co/birgermoell/swedish-gpt/

瑞典语维基GPT

https://huggingface.co/flax-community/swe-gpt-wiki

北欧维基GPT

https://huggingface.co/flax-community/nordic-gpt-wiki

丹麦语维基GPT

https://huggingface.co/flax-community/dansk-gpt-wiki

挪威语维基GPT

https://huggingface.co/flax-community/norsk-gpt-wiki

RoBERTa模型

北欧维基RoBERTa

https://huggingface.co/flax-community/nordic-roberta-wiki

瑞典维基RoBERTa Oscar版

https://huggingface.co/flax-community/swe-roberta-wiki-oscar

瑞典-北欧RoBERTa

https://huggingface.co/birgermoell/roberta-swedish-scandi

瑞典语RoBERTa

https://huggingface.co/birgermoell/roberta-swedish

瑞典语T5模型

https://huggingface.co/birgermoell/t5-base-swedish