语言:

• sv 标签:
• squad 许可证: apache-2.0 数据集:
• susumu2357/squad_v2_sv 指标:
• squad_v2

基于SQuAD v2微调的瑞典语BERT模型

本模型是在SQuAD v2数据集上对瑞典语BERT进行微调的检查点。

训练数据

微调基于预训练模型KB/bert-base-swedish-cased完成。

训练集和开发集采用我们翻译为瑞典语的SQuAD v2版本。

HuggingFace数据集页面可在此查看。

超参数设置

批次大小 = 16
训练轮数 = 2
最大序列长度 = 386
学习率 = 3e-5
预热步数 = 2900    # 预热比例 = 0.2
文档滑动步长 = 128
最大问题长度 = 64

评估结果

'精确匹配': 66.72642524202223
'F1分数': 70.11149581003404
'总样本数': 11156
'含答案精确匹配': 55.574745730186144
'含答案F1分数': 62.821693965983044
'含答案样本数': 5211
'无答案精确匹配': 76.50126156433979
'无答案F1分数': 76.50126156433979
'无答案样本数': 5945

局限性与偏差

由于SQuAD数据集的翻译误差，本模型可能包含某些偏差。

BibTeX引用信息

@misc{svSQuADbert,
  作者 = {Susumu Okazawa},
  标题 = {基于瑞典语SQuAD 2.0微调的瑞典语BERT模型},
  年份 = {2021},
  发布方式 = {\url{https://huggingface.co/susumu2357/bert-base-swedish-squad2}},
}