开源协议: MIT
数据集:

• 刻板印象集
• 乌鸦配对集
• wu981526092/MGSD
  语言:
• 英语
  评估指标:
• F1值
• 召回率
• 精确率
• 准确率

句子级刻板印象分类器

该句子级刻板印象分类器是基于Transformer架构开发的模型，用于在句子层面检测并分类文本中存在的各类刻板印象。该模型能够识别针对性别、种族、职业和宗教的刻板印象及反刻板印象表述，可助力开发旨在减少刻板印象语言使用、促进自然语言处理任务公平性与包容性的应用程序。

模型架构

本模型采用预训练的Distilbert模型作为基础，在MGS数据集上针对句子级刻板印象分类任务进行了微调。

分类类别

模型可识别九种类别，包括：

0. 无关：该标记不包含任何刻板印象
1. 性别刻板印象：该标记体现性别刻板印象
2. 反性别刻板印象：该标记体现反性别刻板印象
3. 种族刻板印象：该标记体现种族刻板印象
4. 反种族刻板印象：该标记体现反种族刻板印象
5. 职业刻板印象：该标记体现职业刻板印象
6. 反职业刻板印象：该标记体现反职业刻板印象
7. 宗教刻板印象：该标记体现宗教刻板印象
8. 反宗教刻板印象：该标记体现反宗教刻板印象

使用方法

可通过Hugging Face的文本分类流程调用本模型：

from transformers import pipeline

nlp = pipeline("text-classification", model="wu981526092/Sentence-Level-Stereotype-Detector", tokenizer="wu981526092/Sentence-Level-Stereotype-Detector")
result = nlp("包含潜在刻板印象的文本...")

print(result)