license: mit
language:
简介
Emobloom-7b是EmoLLMs项目的组成部分,这是首个具备指令跟随能力的开源大语言模型系列,专注于全面情感分析。该模型基于bloomz-7b1-mt基础模型和完整AAID指令调优数据进行微调,可用于情感分类任务(如情感极性或分类情绪)和回归任务(如情感强度或情绪烈度)。
伦理考量
近期研究表明,大语言模型可能带来潜在偏见(如性别差异)。同时,错误预测结果和过度泛化现象也揭示了当前模型的潜在风险。因此,将本模型应用于真实场景情感分析系统仍面临诸多挑战。
EmoLLMs系列模型
包含Emollama-7b、Emollama-chat-7b、Emollama-chat-13b、Emoopt-13b、Emobloom-7b、Emot5-large、Emobart-large等模型:
- Emollama-7b:基于LLaMA2-7B微调
- Emollama-chat-7b:基于LLaMA2-chat-7B微调
- Emollama-chat-13b:基于LLaMA2-chat-13B微调
- Emoopt-13b:基于OPT-13B微调
- Emobloom-7b:基于Bloomz-7b1-mt微调
- Emot5-large:基于T5-large微调
- Emobart-large:基于bart-large微调
所有模型均在完整AAID指令调优数据上训练。
使用方法
可通过Hugging Face Transformers库加载模型:
from transformers import AutoTokenizer, AutoModelForCausalLM
tokenizer = AutoTokenizer.from_pretrained('lzw1008/Emobloom-7b')
model = AutoModelForCausalLM.from_pretrained('lzw1008/Emobloom-7b', device_map='auto')
device_map='auto'
参数可自动启用GPU加速。
提示词示例
情绪烈度
人类:
任务:为文本中情绪E的强度赋值(0表示最弱,1表示最强)
文本:@CScheiwiller 笑得停不下来😆😆😆
情绪:喜悦
强度值:
助手:
>>0.896
情感强度
人类:
任务:评估文本作者心理状态的效价强度(0最消极,1最积极)
文本:生日快乐小可爱。保持美好保持轻松保持浪起来@daviistuart 😘
强度值:
助手:
>>0.879
情感分类
人类:
任务:将文本归类至最能表征作者心理状态的序数类别(3:非常积极 2:中等积极 1:轻微积极 0:中性/-3:非常消极等)
文本:对碧昂丝的怨恨每次都让我情绪崩溃😩
强度等级:
助手:
>>-3:可推断为非常消极的心理状态
情绪分类
人类:
任务:将文本情感基调归类为"中性"或识别给定情绪(愤怒、期待、厌恶、恐惧等)
文本:无论你做什么决定,确保它能让你#开心。
本文包含情绪:
助手:
>>喜悦、爱、乐观
可根据具体任务调整任务描述。
许可协议
EmoLLMs系列采用MIT许可证,详见MIT文件。
引用
若使用本系列模型,请引用论文:
@article{liu2024emollms,
title={EmoLLMs: A Series of Emotional Large Language Models and Annotation Tools for Comprehensive Affective Analysis},
author={Liu, Zhiwei and Yang, Kailai and Zhang, Tianlin and Xie, Qianqian and Yu, Zeping and Ananiadou, Sophia},
journal={arXiv preprint arXiv:2401.08508},
year={2024}
}