语言:

• 阿拉伯语 许可证: Apache-2.0 示例输入:
• 文本: '阿布扎比酋长国是阿拉伯联合酋长国七个酋长国之一'

CAMeLBERT-Mix 现代标准阿拉伯语词性标注模型

模型描述

CAMeLBERT-Mix MSA词性标注模型是基于CAMeLBERT-Mix模型微调而成的现代标准阿拉伯语(MSA)词性标注模型。该模型使用PATB数据集进行微调训练。完整的微调流程与超参数设置请参阅我们的论文《阿拉伯语预训练语言模型中变体、规模与任务类型的交互影响》，相关代码已开源在CAMeL-Lab GitHub。

使用场景

本模型可通过transformers管道直接调用，也将集成至CAMeL Tools工具包。

调用方式

使用transformers管道调用示例：

>>> from transformers import pipeline
>>> pos = pipeline('token-classification', model='CAMeL-Lab/bert-base-arabic-camelbert-mix-pos-msa')
>>> text = '阿布扎比酋长国是阿拉伯联合酋长国七个酋长国之一'
>>> pos(text)
[{'entity': '名词', 'score': 0.9999592, 'index': 1, 'word': '酋长国', 'start': 0, 'end': 3}, 
 {'entity': '专有名词', 'score': 0.9997877, 'index': 2, 'word': '阿布扎比', 'start': 4, 'end': 8},
 ...（其余标注结果省略）]

注意：需使用transformers>=3.5.0版本，或手动下载模型文件。

文献引用

@inproceedings{inoue-etal-2021-interplay,
    title = "阿拉伯语预训练语言模型中变体、规模与任务类型的交互影响",
    author = "井上刚 and 阿尔哈夫尼 and 巴伊穆坎 and 布阿穆尔 and 哈巴什",
    booktitle = "第六届阿拉伯自然语言处理研讨会论文集",
    year = "2021",
    publisher = "计算语言学协会",
    abstract = "本文系统研究了语言变体、数据规模和微调任务类型对阿拉伯语预训练模型的影响。我们构建了涵盖现代标准阿拉伯语、方言阿拉伯语和古典阿拉伯语的三类预训练模型，以及三者的混合模型。通过在不同NLP任务上的实验表明，预训练数据与微调数据的变体相似度比数据规模更重要。",
}