🚀 波斯语ALBERT

波斯语ALBERT是用于波斯语语言表征自监督学习的轻量级BERT模型。

你也可以称它为“小BERT”

波斯语ALBERT是将ALBERT应用于波斯语的首次尝试。该模型基于谷歌的ALBERT BASE 2.0版本进行训练，训练数据涵盖了来自众多领域（如科学、小说、新闻等）的多种写作风格，包含超过390万份文档、7300万句话和13亿个单词，这与我们训练ParsBERT的方式类似。

请关注波斯语ALBERT仓库，以获取有关过往和当前模型的最新信息。

✨ 主要特性

波斯语情感分析 [Digikala、SnappFood、DeepSentiPers]

该模型旨在根据文本（如评论）的情感倾向对其进行分类。我们针对此任务测试了三个知名数据集：Digikala用户评论、SnappFood用户评论以及DeepSentiPers，涵盖二分类和多分类两种类型。

📚 详细文档

结果

将三个数据集合并为包含负面和正面的二分类标签后，该模型的F1分数达到了87.56%。

BibTeX引用和引用信息

如果您在出版物中引用该模型，请使用以下内容：

@misc{ALBERTPersian,
  author = {Mehrdad Farahani},
  title = {ALBERT-Persian: A Lite BERT for Self-supervised Learning of Language Representations for the Persian Language},
  year = {2020},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = {\url{https://github.com/m3hrdadfi/albert-persian}},
}

@article{ParsBERT,
    title={ParsBERT: Transformer-based Model for Persian Language Understanding},
    author={Mehrdad Farahani, Mohammad Gharachorloo, Marzieh Farahani, Mohammad Manthouri},
    journal={ArXiv},
    year={2020},
    volume={abs/2005.12515}
}

📄 许可证

本项目采用Apache-2.0许可证。

❓ 有疑问？

请在波斯语ALBERT仓库中提交GitHub问题。