库名称: transformers
许可证: apache-2.0
标签:

• 自动训练
• 文本生成推理
• 文本生成
• 参数高效微调
• 训练器生成
• mistral模型
• transformers框架
• 推理端点
• pytorch
  基础模型: mistralai/Mistral-7B-Instruct-v0.2
  模型索引:
• 名称: Mental-Health_ML
  结果: []
  数据集:
• Amod/mental_health_counseling_conversations
  推理支持: 是
  交互示例:
• 消息记录:
  • 角色: 用户
    内容: 你最喜欢的调味品是什么？

使用AutoTrain训练的模型

本模型是基于mistralai/Mistral-7B-Instruct-v0.2在心理健康咨询对话数据集上微调的版本。

使用方法

from transformers import AutoModelForCausalLM, AutoTokenizer

model_path = "prabureddy/Mental-Health-FineTuned-Mistral-7B-Instruct-v0.2"

tokenizer = AutoTokenizer.from_pretrained(model_path)
model = AutoModelForCausalLM.from_pretrained(
    model_path,
    device_map="auto",
    torch_dtype='auto'
).eval()

# 提示内容: "hi"
messages = [
    {"role": "user", "content": "嘿Alex！我最近情绪有点低落，能给我些改善心情的建议吗？"}
]

input_ids = tokenizer.apply_chat_template(conversation=messages, tokenize=True, add_generation_prompt=True, return_tensors='pt')
output_ids = model.generate(input_ids.to('cuda'))
response = tokenizer.decode(output_ids[0][input_ids.shape[1]:], skip_special_tokens=True)

# 模型回复: "你好！今天有什么可以帮您的？"
print(response)