语言: 波斯语
许可证: Apache-2.0

波斯语ALBERT模型

一种轻量级BERT模型，用于波斯语语言表征的自监督学习

你可以称它为"小伯特"

ALBERT-Persian 是首次针对波斯语实现的ALBERT模型尝试。该模型基于谷歌ALBERT BASE 2.0版本训练，数据涵盖科学、小说、新闻等多样文体，包含超过390万份文档、7300万句子和13亿词汇，其构建方式与我们开发ParsBERT时采用的方法一致。

关于历史及当前模型的最新动态，请关注ALBERT-Persian代码库。

波斯语情感分析 [Digikala, SnappFood, DeepSentiPers]

本任务旨在对评论文本进行情感倾向分类。我们测试了三个知名数据集：Digikala用户评论、SnappFood用户评论以及具备二元和多元分类版本的DeepSentiPers。

DeepSentiPers

作为SentiPers的平衡增强版本，包含12,138条关于数码产品的用户评价，标注为五类情感：积极两类（愉悦/欣喜）、消极两类（暴怒/愤怒）及中性类。因此该数据集既支持多分类也支持二分类任务（二分类时剔除中性数据）。

二分类标签

1. 消极（暴怒+愤怒）
2. 积极（愉悦+欣喜）

多分类标签

1. 暴怒
2. 愤怒
3. 中性
4. 愉悦
5. 欣喜

下载地址
可通过以下渠道获取数据集：

• SentiPers
• DeepSentiPers

性能表现

下表对比了各模型架构的F1分数表现：

引用信息

学术引用请采用以下格式：

@misc{ALBERTPersian,
  author = {Mehrdad Farahani},
  title = {ALBERT-Persian：面向波斯语语言表征自监督学习的轻量级BERT模型},
  year = {2020},
  publisher = {GitHub},
  journal = {GitHub仓库},
  howpublished = {\url{https://github.com/m3hrdadfi/albert-persian}},
}

@article{ParsBERT,
    title={ParsBERT：基于Transformer的波斯语理解模型},
    author={Mehrdad Farahani, Mohammad Gharachorloo, Marzieh Farahani, Mohammad Manthouri},
    journal={ArXiv},
    year={2020},
    volume={abs/2005.12515}
}

问题反馈？

请在ALBERT-Persian代码库提交GitHub issue。