language: zh tags:

• 文本分类
• PyTorch
• ModernBERT
• 情感分析
• 多类别分类
• 多标签分类 datasets:
• go_emotions license: mit metrics:
• 准确率
• F1值
• 精确率
• 召回率
• 马修斯相关系数 base_model:
• answerdotai/ModernBERT-large widget:
• text: 能参与这段精彩旅程让我激动不已！
• text: 我对结果感到非常失望。
• text: 这是一个关于蛋糕的中性陈述。 library_name: transformers

概述

本模型基于ModernBERT-large在GoEmotions数据集上进行微调，用于多标签分类任务。它能预测文本中的情感状态，共支持28种情感标签。每个输入文本可对应一个或多个标签，体现了任务的多标签特性。

在线体验点击这里。

模型详情

• 基础模型: ModernBERT-large
• 微调数据集: GoEmotions
• 标签数量: 28
• 问题类型: 多标签分类
• 语言: 英语
• 许可协议: MIT
• 微调框架: Hugging Face Transformers

使用示例

通过Hugging Face Transformers使用该模型的方法：

from transformers import pipeline
import torch

# 加载模型
classifier = pipeline(
    "text-classification", 
    model="cirimus/modernbert-large-go-emotions",
    top_k=5
)

text = "我对这个机遇感到无比快乐和兴奋！"
predictions = classifier(text)

# 打印检测到的前5种情感
sorted_preds = sorted(predictions[0], key=lambda x: x['score'], reverse=True)
top_5 = sorted_preds[:5]

print("\n检测到的前5种情感：")
for pred in top_5:
    print(f"\t{pred['label']:10s} : {pred['score']:.3f}")

# 示例输出：
# 检测到的前5种情感：
#        快乐      : 0.784
#        兴奋      : 0.735
#        钦佩      : 0.013
#        感激      : 0.003
#        有趣      : 0.003

模型创建过程

模型使用以下超参数微调了3个周期：

• 学习率: 2e-5
• 批量大小: 16
• 权重衰减: 0.01
• 优化器: AdamW
• 评估指标: 精确率、召回率、F1值（加权）、准确率

数据集

GoEmotions数据集是一个多标签情感分类数据集，源自Reddit评论。它包含58,000个样本，标注了28种情感标签（如钦佩、有趣、愤怒等），专为多标签分类设计。

评估结果

模型在GoEmotions测试集上评估，使用0.5作为二值化预测的阈值。总体指标如下：

标准结果:

使用默认阈值0.5。

最优结果:

基于训练集为每个标签调整最佳阈值（以F1值为优化目标），在测试集上的表现：