语言: 波斯语
许可证: Apache-2.0

ALBERT 波斯语版

为波斯语自监督学习语言表示的轻量级BERT

你可以称它为“小伯特”

ALBERT-波斯语版是首次针对波斯语开发的ALBERT模型尝试。该模型基于谷歌的ALBERT BASE 2.0版本训练，覆盖了多种写作风格（如科学、小说、新闻等）的超过390万份文档、7300万句句子和13亿词汇，训练方式与我们开发ParsBERT时类似。

关于过往及当前模型的最新信息，请关注ALBERT-波斯语版代码库。

波斯语情感分析 [Digikala, SnappFood, DeepSentiPers]

该模型旨在对文本（如评论）进行基于情感倾向的分类。我们在此任务中测试了三个知名数据集：Digikala用户评论、SnappFood用户评论以及DeepSentiPers的二分类和多分类形式。

结果

模型在将三个数据集合并为多标签（负面、中性和正面）的任务中，取得了70.72%的F1分数。

BibTeX条目及引用信息

请在出版物中按以下方式引用：

@misc{ALBERTPersian,  
  author = {Mehrdad Farahani},  
  title = {ALBERT-波斯语版: 为波斯语自监督学习语言表示的轻量级BERT},  
  year = {2020},  
  publisher = {GitHub},  
  journal = {GitHub代码库},  
  howpublished = {\url{https://github.com/m3hrdadfi/albert-persian}},  
}  

@article{ParsBERT,  
    title={ParsBERT: 基于Transformer的波斯语理解模型},  
    author={Mehrdad Farahani, Mohammad Gharachorloo, Marzieh Farahani, Mohammad Manthouri},  
    journal={ArXiv},  
    year={2020},  
    volume={abs/2005.12515}  
}  

问题？

请在ALBERT-波斯语版代码库提交GitHub issue。