许可证: cc-by-nc-4.0
语言:

• 英语
  标签:
• 心理健康
• 大型语言模型
• alpaca

模型卡片：mental-alpaca

这是一个通过在线文本数据进行心理健康预测的微调大型语言模型。

模型详情

模型描述

我们使用4个高质量文本数据集（共6项任务）对Alpaca模型进行了微调，用于心理健康预测场景：Dreaddit、DepSeverity、SDCNL和CCRS-Suicide。
我们还单独微调了一个基于FLAN-T5-XXL的模型，名为Mental-FLAN-T5，可在此处获取。

• 开发团队: 东北大学以人为中心的人工智能实验室
• 模型类型: 序列到序列文本生成
• 支持语言（NLP）: 英语
• 许可证: cc-by-nc-4.0
• 微调基础模型: https://github.com/tatsu-lab/stanford_alpaca

模型来源 [可选]

• 代码库: https://github.com/neuhai/Mental-LLM
• 论文: https://arxiv.org/abs/2307.14385

用途

直接使用

该模型仅限英语研究用途。
模型通过在线文本数据微调用于心理健康预测。微调过程及提示的详细信息请参阅我们的论文。
使用本模型还需遵守stanford_alpaca项目和Llama-2-7b的限制条款。

非适用范围

本模型的非适用范围需符合stanford_alpaca项目和Llama-2-7b的规定。

偏见、风险与局限性

本模型的偏见、风险与局限性同样需遵守stanford_alpaca项目和Llama-2-7b的条款。

快速开始

使用以下代码快速启动模型：

from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("NEU-HAI/Llama-2-7b-alpaca-cleaned")
model = AutoModelForCausalLM.from_pretrained("NEU-HAI/Llama-2-7b-alpaca-cleaned")

训练细节与评估

详细工作信息请参阅我们的论文。

引用

@article{xu2023leveraging,
  title={Mental-LLM: Leveraging large language models for mental health prediction via online text data},
  author={Xu, Xuhai and Yao, Bingshen and Dong, Yuanzhe and Gabriel, Saadia and Yu, Hong and Ghassemi, Marzyeh and Hendler, James and Dey, Anind K and Wang, Dakuo},
  journal={arXiv preprint arXiv:2307.14385},
  year={2023}
}