语言:

• 阿拉伯语
• 摩洛哥方言 示例文本:
• 文本: "我想带[MASK]。"
• 文本: "你怎么[MASK]这件事。"
• 文本: "现在[MASK]时间。"
• 文本: "摩洛哥是世界上最[MASK]的地方。"

AIOX实验室与INSEA的SI2M实验室强强联合，为研究人员、工业界及自然语言处理（NLP）社区推出了首个能理解摩洛哥方言"Darija"的智能开源系统。

DarijaBERT是首个专为摩洛哥阿拉伯方言"Darija"打造的BERT模型。该模型采用与BERT-base相同的架构，但移除了下一句预测（NSP）目标。此版本为DarijaBERT的Arabizi特殊变体，训练数据包含约460万条拉丁字母书写的Darija方言文本序列。

模型训练数据源自YouTube评论区。

更多关于DarijaBert的细节请访问GitHub专属代码库

加载模型 可通过Huggingface库直接加载：

from transformers import AutoTokenizer, AutoModel
DarijaBERT_tokenizer = AutoTokenizer.from_pretrained("SI2M-Lab/DarijaBERT-arabizi")
DarijaBert_model = AutoModel.from_pretrained("SI2M-Lab/DarijaBERT-arabizi")

引用文献 若您的研究成果使用了本模型，或认为本资源库内容有价值，请按如下格式引用（待更新）：

@article{gaanoun2023darijabert,
  title={Darijabert: 摩洛哥书面方言NLP研究的重要进展},
  author={加农, 卡梅尔 & 奈拉, 阿卜杜·穆罕默德 & 阿拉克, 阿纳斯 & 贝内拉姆, 伊马德},
  year={2023}
}

致谢 特别鸣谢Google TensorFlow研究云（TRC）计划为我们提供免费的Cloud TPU算力支持。

注意事项 由于模型训练数据来自社交媒体文本，可能会生成反映部分学习内容的负面输出