语言: 西班牙语
许可证: Apache-2.0

xlm-r-微调-西班牙政治推文毒性检测模型

该模型基于预训练模型xlm-roberta-base，并在西班牙众议院议员发布的推文数据集上进行了微调，这些推文已根据其产生的政治毒性级别进行了标注。

输入

该模型针对2021年西班牙政治家发布的西班牙语推文文本进行了训练，因此这是预期的输入类型。当应用于其他领域的文本时，其性能可能会下降。

输出

模型预测两种政治毒性信号：

• 有毒（Toxic）：推文具有一定程度的毒性。
• 高度有毒（Very Toxic）：推文具有强烈的毒性。

每种信号会输出一个介于0到1之间的预测值。

预期用途与限制

该模型旨在用于检测西班牙众议院议员发布的西班牙语推文的毒性。如果用于其他用途（例如电影评论的毒性检测），结果可能不可靠，建议寻找专门针对该用途的其他模型。

使用方法

可以直接使用文本分类流水线调用该模型：

>>> from transformers import pipeline  
>>> text = "Es usted un auténtico impresentable, su señoría."  
>>> pipe = pipeline("text-classification", model="Newtral/xlm-r-finetuned-toxic-political-tweets-es")  
>>> pipe(text, return_all_scores=True)  

[[{'label': 'toxic', 'score': 0.92560875415802},  
  {'label': 'very toxic', 'score': 0.8310967683792114}]]  

训练过程

预训练模型通过以下超参数进行了序列分类微调（参数基于验证集选择）：

• 批量大小 = 32
• 学习率 = 2e-5
• 训练轮次 = 5
• 最大长度 = 64

优化器采用AdamW，损失函数为带类别权重（与类别不平衡比例对应）的二元交叉熵。