库名称: transformers
许可证: mit
数据集:

• google-research-datasets/go_emotions
  基础模型: answerdotai/ModernBERT-large
  语言:
• en
  标签:
• 文本分类
• 情感分类
• 情感识别
• 情感检测
• 情感
• 多标签
  评估指标:
• f1
• 精确率
• 召回率

概述

这是基于go_emotions数据集微调的ModernBERT-large模型，用于多标签分类任务。该模型可用于从英文文本中提取所有情感或检测特定情感。阈值是通过在验证集上最大化所有标签的宏观f1分数来选择的。
您可以使用Flash Attention 2来加速推理。

模型在不同类别上的表现差异很大（参见下方的评估指标表）。有些类别如钦佩、娱乐、乐观、恐惧、悔恨等表现出较高的识别质量，而有些类别如失望、领悟等由于训练数据中样本较少，模型识别较为困难。

使用方法

使用Huggingface Transformers可以轻松调用该模型。

ModernBERT架构在transformers 4.48.0及更高版本中支持，因此需要安装：

pip install "transformers>=4.48.0"  

以下是如何提取文本中包含的情感：

import torch  
from transformers import AutoTokenizer, AutoModelForSequenceClassification  
tokenizer = AutoTokenizer.from_pretrained('fyaronskiy/ModernBERT-large-go-emotions')  
model = AutoModelForSequenceClassification.from_pretrained('fyaronskiy/ModernBERT-large-go-emotions')  
best_thresholds = [0.5510204081632653, 0.26530612244897955, 0.14285714285714285, 0.12244897959183673, 0.44897959183673464, 0.22448979591836732, 0.2040816326530612, 0.4081632653061224, 0.5306122448979591, 0.22448979591836732, 0.2857142857142857, 0.3061224489795918, 0.2040816326530612, 0.14285714285714285, 0.1020408163265306, 0.4693877551020408, 0.24489795918367346, 0.3061224489795918, 0.2040816326530612, 0.36734693877551017, 0.2857142857142857, 0.04081632653061224, 0.3061224489795918, 0.16326530612244897, 0.26530612244897955, 0.32653061224489793, 0.12244897959183673, 0.2040816326530612]  
LABELS = ['admiration', 'amusement', 'anger', 'annoyance', 'approval', 'caring', 'confusion', 'curiosity', 'desire', 'disappointment', 'disapproval', 'disgust', 'embarrassment', 'excitement', 'fear', 'gratitude', 'grief', 'joy', 'love', 'nervousness', 'optimism', 'pride', 'realization', 'relief', 'remorse', 'sadness', 'surprise', 'neutral']  
ID2LABEL = dict(enumerate(LABELS))  

def detect_emotions(text):  
  inputs = tokenizer(text, truncation=True, add_special_tokens=True, max_length=128, return_tensors='pt')  
  with torch.no_grad():  
      logits = model(**inputs).logits  
  probas = torch.sigmoid(logits).squeeze(dim=0)    
  class_binary_labels = (probas > torch.tensor(best_thresholds)).int()  
  return [ID2LABEL[label_id] for label_id, value in enumerate(class_binary_labels) if value == 1]  
print(detect_emotions('You have excellent service and the best coffee in the city, I love your coffee shop!'))  
#['admiration', 'love']  

以下方法可以获取所有情感及其得分：

def predict(text):  
    inputs = tokenizer(text, truncation=True, add_special_tokens=True, max_length=128, return_tensors='pt')  
    with torch.no_grad():  
        logits = model(**inputs).logits  
    probas = torch.sigmoid(logits).squeeze(dim=0).tolist()  
    probas = [round(proba, 3) for proba in probas]      
    
    labels2probas = dict(zip(LABELS, probas))  
    probas_dict_sorted = dict(sorted(labels2probas.items(), key=lambda x: x[1], reverse=True))  
    return probas_dict_sorted  
print(predict('You have excellent service and the best coffee in the city, I love your coffee shop!'))  
#{'admiration': 0.982, 'love': 0.689, 'approval': 0.014, 'gratitude': 0.003, 'joy': 0.003, 'amusement': 0.001, 'curiosity': 0.001, 'excitement': 0.001, 'realization': 0.001, 'surprise': 0.001, 'anger': 0.0, 'annoyance': 0.0, 'caring': 0.0, 'confusion': 0.0, 'desire': 0.0, 'disappointment': 0.0, 'disapproval': 0.0, 'disgust': 0.0, 'embarrassment': 0.0, 'fear': 0.0, 'grief': 0.0, 'nervousness': 0.0, 'optimism': 0.0, 'pride': 0.0, 'relief': 0.0, 'remorse': 0.0, 'sadness': 0.0, 'neutral': 0.0}  

在go-emotions测试集上的评估结果