语言: "ar" 标签:

• 文本生成 数据集:
• 多个时期的阿拉伯诗歌

GPT2小型阿拉伯诗歌模型

模型描述

基于gpt2-small-arabic的阿拉伯诗歌数据集微调模型。

预期用途与限制

使用方法

使用示例可参考此Colab笔记本。

限制与偏差

GPT2-small-arabic（基于阿拉伯语维基百科训练）和本模型在覆盖范围和训练性能方面存在若干局限。建议将其作为演示或概念验证，而非生产代码使用。

训练数据

本预训练模型使用了包含9个不同时期、总计约4万首诗歌的阿拉伯诗歌数据集。该数据集基于gpt2-small-arabic transformer模型进行微调训练。

训练过程

训练通过Simple Transformers库在Kaggle平台上完成，使用免费GPU资源。

评估结果

最终困惑度达到76.3，损失值：4.33

BibTeX条目与引用信息

@inproceedings{Abed Khooli,
  年份={2020}
}