language: zh
tags:

• 文本分类
• pytorch
• ModernBERT
• 情感分析
• 多类别分类
• 多标签分类
  datasets:
• go_emotions
  license: mit
  metrics:
• 准确率
• F1值
• 精确率
• 召回率
• 马修斯相关系数
  base_model:
• answerdotai/ModernBERT-base
  widget:
• text: "能参与这段精彩旅程，我激动万分！"
• text: "我对结果感到非常失望。"
• text: "这是一个关于蛋糕的中性陈述。"
  library_name: transformers

模型概述

本模型基于ModernBERT-base在GoEmotions数据集上微调，用于多标签文本情感分类。可预测文本中28种情感标签，支持单文本多标签预测。

在线体验

模型详情

• 基础模型: ModernBERT-base
• 微调数据集: GoEmotions
• 标签数量: 28
• 任务类型: 多标签分类
• 语言: 英语
• 许可协议: MIT
• 微调框架: Hugging Face Transformers

使用示例

通过Hugging Face Transformers调用模型：

from transformers import pipeline  
import torch  

# 加载模型  
classifier = pipeline(  
    "text-classification",  
    model="cirimus/modernbert-base-go-emotions",  
    return_all_scores=True  
)  

text = "我对这个机会感到无比开心和兴奋！"  
predictions = classifier(text)  

# 打印前5个情感预测  
sorted_preds = sorted(predictions[0], key=lambda x: x['score'], reverse=True)  
top_5 = sorted_preds[:5]  

print("\n检测到的前5种情感:")  
for pred in top_5:  
    print(f"\t{pred['label']:10s} : {pred['score']:.3f}")  

## 示例输出:  
# 检测到的前5种情感:  
#        excitement : 0.937  
#        joy        : 0.915  
#        desire     : 0.022  
#        love       : 0.020  
#        admiration : 0.017  

训练过程

模型微调3个epoch，参数配置如下：

• 学习率: 2e-5
• 批大小: 16
• 权重衰减: 0.01
• 预热步数: 500
• 优化器: AdamW
• 评估指标: 精确率、召回率、F1值（加权）、准确率

数据集

GoEmotions数据集包含58,000条Reddit评论，标注了28种情感标签（如赞赏、愉悦、愤怒等），专为多标签分类设计。

评估结果

标准结果（阈值0.5）

优化结果（动态阈值）

应用场景

适用于英文文本情感分析，包括：

• 社交媒体情绪监测
• 客户反馈分析
• 心理学行为研究

局限性

• 数据偏差: 训练数据源自Reddit，可能不适用于其他领域
• 小样本标签: "grief"等标签样本稀少，预测效果受限
• 标注歧义: 部分数据存在标注不一致情况

环境影响

• 硬件: NVIDIA RTX4090
• 训练时长: <1小时
• 碳排放: ~0.04kg CO2（通过ML CO2计算器估算）

引用

@inproceedings{JdFE2025b,  
  title = {基于ModernBERT的情感分类模型},  
  author = {Enric Junqu\'e de Fortuny},  
  year = {2025},  
  howpublished = {\url{https://huggingface.co/cirimus/modernbert-base-go-emotions}},  
}