语言:

• 阿拉伯语 许可证: Apache-2.0 组件示例:
• 文本: '阿布扎比酋长国是阿拉伯联合酋长国七个酋长国之一'

CAMeLBERT-MSA 词性标注-现代标准阿拉伯语模型

模型描述

CAMeLBERT-MSA 词性标注-MSA模型是一个基于现代标准阿拉伯语(MSA)的词性标注模型，通过微调CAMeLBERT-MSA模型构建而成。微调过程中使用了PATB数据集。我们的微调流程和超参数设置详见论文《阿拉伯语预训练语言模型中变体、规模与任务类型的相互作用》，相关代码已开源在CAMeLBERT项目。

使用场景

本模型可作为transformers流水线组件使用，后续也将集成至CAMeL工具集。

使用方法

通过transformers流水线调用：

>>> from transformers import pipeline
>>> pos = pipeline('token-classification', model='CAMeL-Lab/bert-base-arabic-camelbert-msa-pos-msa')
>>> text = '阿布扎比酋长国是阿拉伯联合酋长国七个酋长国之一'
>>> pos(text)
[{'entity': '名词', 'score': 0.9999764, 'index': 1, 'word': '酋长国', 'start': 0, 'end': 5}, 
 {'entity': '专有名词', 'score': 0.99991846, 'index': 2, 'word': '阿布扎比', 'start': 6, 'end': 12},
 ...（后续标注结果省略）...]

注意：需使用transformers>=3.5.0版本，或手动下载模型文件。

引用文献

@inproceedings{inoue-etal-2021-interplay,
    title = "阿拉伯语预训练语言模型中变体、规模与任务类型的相互作用",
    author = "井上刚, Alhafni, Bashar, Baimukan, Nurpeiis, Bouamor, Houda, Habash, Nizar",
    booktitle = "第六届阿拉伯自然语言处理研讨会论文集",
    month = "4月",
    year = "2021",
    address = "乌克兰基辅（线上会议）",
    publisher = "计算语言学协会",
    abstract = "本文系统探究了阿拉伯语预训练模型中语言变体、数据规模和微调任务类型的影响机制。通过构建覆盖现代标准阿拉伯语、方言阿拉伯语和古典阿拉伯语的三类预训练模型，以及三者的混合模型，并对比不同数据规模下的模型表现。我们在12个数据集上测试了5类NLP任务，结果表明：微调数据与预训练数据的变体相似度比预训练数据规模更具决定性影响，据此我们提出了面向特定任务的优化模型选择方案。",
}