Hugging Face的标识

语言: 豪萨语 数据集:

bert-base-multilingual-cased-finetuned-swahili

模型描述

bert-base-multilingual-cased-finetuned-swahili 是通过在斯瓦希里语文本上微调 bert-base-multilingual-cased 模型而获得的 斯瓦希里语BERT 模型。在文本分类和命名实体识别数据集上，它提供了比多语言BERT更好的性能。

具体来说，该模型是在斯瓦希里语语料库上微调的 bert-base-multilingual-cased 模型。

预期用途与限制

使用方法

您可以使用Transformers的pipeline进行掩码标记预测。

>>> from transformers import pipeline
>>> unmasker = pipeline('fill-mask', model='Davlan/bert-base-multilingual-cased-finetuned-swahili')
>>> unmasker("Jumatatu, Bwana Kagame alielezea shirika la France24 huko [MASK] kwamba "hakuna uhalifu ulitendwa")
                    
[{'sequence': 'Jumatatu, Bwana Kagame alielezea shirika la France24 huko Paris kwamba hakuna uhalifu ulitendwa', 
'score': 0.31642526388168335, 
'token': 10728, 
'token_str': 'Paris'}, 
{'sequence': 'Jumatatu, Bwana Kagame alielezea shirika la France24 huko Rwanda kwamba hakuna uhalifu ulitendwa', 
'score': 0.15753623843193054, 
'token': 57557, 
'token_str': 'Rwanda'}, 
{'sequence': 'Jumatatu, Bwana Kagame alielezea shirika la France24 huko Burundi kwamba hakuna uhalifu ulitendwa', 
'score': 0.07211585342884064, 
'token': 57824, 
'token_str': 'Burundi'}, 
{'sequence': 'Jumatatu, Bwana Kagame alielezea shirika la France24 huko France kwamba hakuna uhalifu ulitendwa', 
'score': 0.029844321310520172, 
'token': 10688, 
'token_str': 'France'}, 
{'sequence': 'Jumatatu, Bwana Kagame alielezea shirika la France24 huko Senegal kwamba hakuna uhalifu ulitendwa', 
'score': 0.0265930388122797, 
'token': 38052, 
'token_str': 'Senegal'}]

限制与偏差

该模型受限于其训练数据集，这些数据集来自特定时间范围内的实体标注新闻文章。这可能无法很好地泛化到不同领域的所有用例中。

训练数据

该模型是在斯瓦希里语CC-100上微调的。

训练过程

该模型是在单个NVIDIA V100 GPU上训练的。

测试集上的评估结果（F分数，5次运行的平均值）

BibTeX条目与引用信息

作者：David Adelani