language: zh license: apache-2.0

波斯语ALBERT模型

面向波斯语的自监督语言表征学习轻量级BERT模型

你可以亲切地称它为"小伯特"

ALBERT-Persian是波斯语领域首次尝试ALBERT模型的实践。该模型基于谷歌ALBERT BASE 2.0版本，在超过390万份文档、7300万句子和13亿词汇量的多领域语料（涵盖科学、小说、新闻等文体）上训练而成，训练方式与我们开发ParsBERT时采用的方法一致。

关于历代模型的最新动态，请关注ALBERT-Persian代码库。

波斯语情感分析[Digikala, SnappFood, DeepSentiPers]

本模型旨在对评论文本进行情感倾向分类。我们在三个知名数据集上进行了测试：Digikala用户评论、SnappFood用户评论，以及同时支持二分类和多分类的DeepSentiPers数据集。

Digikala数据集

该数据集由开放数据挖掘计划(ODMP)提供，包含62,321条用户评论，标注为三类：

下载地址 可通过此链接获取数据集

性能表现

下表对比了不同模型架构在F1分数上的表现：

引用格式

发表研究成果时请按以下格式引用：

@misc{ALBERTPersian,
  author = {Mehrdad Farahani},
  title = {ALBERT-Persian：面向波斯语的自监督语言表征学习轻量级BERT模型},
  year = {2020},
  publisher = {GitHub},
  journal = {GitHub代码库},
  howpublished = {\url{https://github.com/m3hrdadfi/albert-persian}},
}

@article{ParsBERT,
    title={ParsBERT：基于Transformer的波斯语理解模型},
    author={Mehrdad Farahani, Mohammad Gharachorloo, Marzieh Farahani, Mohammad Manthouri},
    journal={ArXiv},
    year={2020},
    volume={abs/2005.12515}
}

问题反馈？

请在ALBERT-Persian代码库提交GitHub issue。