库名称：peft
标签：

• SFT
• PEFT
• 心理健康
• 心理治疗
• 微调
• 文本生成
• 聊天机器人
  许可证：mit

小部件示例：

• 示例标题：人格解体
  消息：
  • 角色：用户
    内容：我感觉自己不存在，身体不属于自己，仿佛在旁观另一个我，这可能是什么障碍？
• 示例标题：困惑
  消息：
  • 角色：用户
    内容：我在做决定时总是很困惑，无法选择，必须只有一个选项才能做决定，优柔寡断的原因是什么？

推理参数：

• 最大新标记数：256
• 停止标记：
  • <|end_of_text|>
  • <|eot_id|>

数据集：

• mpingale/mental-health-chat-dataset
• Amod/mental_health_counseling_conversations
• heliosbrahma/mental_health_chatbot_dataset

流水线标签：文本生成

模型卡片

这是一个基于Llama-3-8B-instruct微调的模型，旨在通过大型语言模型（LLMs）的力量提供心理健康方面的初步支持和指导。
它是LLaMA 3模型的微调版本，专门针对心理健康咨询对话进行了训练。

模型详情

Llama-3-8B-chat-psychotherapist

提供积极倾听：模型经过训练，能够跟随对话流程并专注回应用户的表达。
提供共情支持：模型的回应设计为支持性和理解性，为用户创造一个安全的分享空间。
引导用户自我反思：模型可以提出开放式问题，促使用户探索自己的想法和感受。
提供资源与信息：根据对话内容，模型可以为用户提供相关的心理健康资源和信息。

重要提示：
该模型旨在提供初步支持和指导，不能替代专业的心理健康护理。
必须强调，用户在需要时应寻求专业帮助。
模型仍在开发中，其回应可能需要人工监督以确保准确性和安全性。

进一步说明：
您可以指定模型训练的心理健康对话类型（如焦虑、抑郁、一般健康等）。
简要提及用于微调的数据集，以展示模型的训练基础。
如果适用，提及模型的任何限制，例如无法诊断或提供具体治疗计划。

如何开始使用模型

读取模型

from peft import PeftModel, PeftConfig  
from transformers import AutoModelForCausalLM  

model_id = "zementalist/llama-3-8B-chat-psychotherapist"  
config = PeftConfig.from_pretrained(model_id)  
model = AutoModelForCausalLM.from_pretrained(config.base_model_name_or_path)  
model = PeftModel.from_pretrained(model, model_id)  

推理

question = "我感觉自己不存在，身体不属于自己，仿佛在旁观另一个我，这些想法是什么原因引起的？"  

messages = [  
    {"role": "system", "content": "回答以下问题："},  
    {"role": "user", "content": question}  
]  

input_ids = tokenizer.apply_chat_template(  
    messages,  
    add_generation_prompt=True,  
    return_tensors="pt"  
).to(model.device)  

terminators = [  
    tokenizer.eos_token_id,  
    tokenizer.convert_tokens_to_ids("<|eot_id|>")  
]  

outputs = model.generate(  
    input_ids,  
    max_new_tokens=256,  
    eos_token_id=terminators,  
    do_sample=True,  
    temperature=0.01  
)  
response = outputs[0][input_ids.shape[-1]:]  
output = tokenizer.decode(response, skip_special_tokens=True)  

print(output)  

训练详情

训练数据

1. Amod/mental_health_counseling_conversations
2. mpingale/mental-health-chat-dataset
3. heliosbrahma/mental_health_chatbot_dataset

训练超参数

• 训练轮数：2
• 学习率：6e-5
• 学习率调度器类型：恒定
• 预热比例：0.03
• 优化器：paged_adamw_32bit
• 权重衰减：0.001
• 浮点精度：fp16

评估

推理示例

1. 问题：我感觉自己不存在，身体不属于自己，仿佛在旁观另一个我，这可能是什么障碍？

   • 回答：您描述的现象称为人格解体。这是焦虑障碍、创伤后应激障碍（PTSD）和其他心理健康状况的常见症状。
     人格解体可能让您感觉像从外部观察自己，仿佛在看一部关于自己的电影或读一本书。您还可能感觉无法控制自己的身体，或觉得自己只是一个傀儡。
     这种感觉可能非常令人不安，甚至让您怀疑自己是否还活着。这是一种非常迷失方向和不安的经历。
     如果您正在经历人格解体，重要的是寻求心理健康专业人士的帮助。他们可以帮助您识别这些感受的潜在原因，并制定应对策略来管理它们。

2. 问题：我在做决定时总是很困惑，无法选择，必须只有一个选项才能做决定，优柔寡断的原因是什么？

   • 回答：优柔寡断是许多人都会经历的常见现象。它不是一种心理健康状况，但可能令人沮丧且耗时。以下是优柔寡断的一些可能原因：
   1. 害怕做出错误决定：有时，人们害怕做出错误选择，这可能导致优柔寡断。这种恐惧可能源于多种因素，如害怕失败、害怕被拒绝或害怕未知。
   2. 缺乏明确目标：当人们没有明确目标时，可能会优柔寡断。这是因为他们不知道自己想要什么，从而导致困惑和优柔寡断。
   3. 过度思考：过度思考可能是优柔寡断的主要原因。当人们过度思考时，可能会陷入思绪中无法做出决定。
   4. 缺乏自信：缺乏自信的人可能会优柔寡断。这是因为他们不相信自己，害怕做出错误决定。
   5. 逃避：逃避决定可能是优柔寡断的原因。当人们逃避做决定时，可能会因为不知道而优柔寡断

• 开发者：[Zeyad Khalid]