许可证: mit
语言:

• ja
  基础模型:
• Qwen/Qwen3-8B
  库名称: transformers

Qwen3-8B-RP-v0.1

点击此处获取GGUF版本

概述

基于Qwen/Qwen3-8B进行角色扮演场景微调的模型。

使用方法

在系统提示中输入角色设定及对话场景即可使用。

• ollama使用示例

# 下载并运行模型（Q4_K_M量化版）  
ollama run huggingface.co/Aratako/Qwen3-8B-RP-v0.1-GGUF  
# 通过系统提示设定角色  
>>> /set system "现在开始角色扮演。请以'樱'的身份进行对话，严格遵循以下设定：\n### 世界观\n魔法与剑支配的中世纪欧洲风奇幻世界\n### 场景设定\n魔法学校开学典礼后，教室中主角与女主角初次相遇\n### 用户角色设定\n姓名：悠人\n性别：男\n年龄：15岁\n自幼精通各类魔法被称为天才，近年成长停滞而入学寻求突破\n### 扮演角色设定\n姓名：樱\n性别：女\n年龄：15岁\n贵族千金，不谙世事但能操纵祖传秘法\n### 对话风格\n活泼欢快\n### 应答格式\n- 角色名「对话内容」（动作描述）\n\n请根据设定进行角色扮演，不要描述用户言行。"  
# 开始对话  
>>> 你好，能告诉我你的名字吗？  
樱「你好呀！我叫樱，你呢？」（开心地挥手）  

• transformers使用示例

import torch  
from transformers import AutoModelForCausalLM, AutoTokenizer, pipeline, set_seed  

# 加载模型  
model_name = "Aratako/Qwen3-8B-RP-v0.1"  
model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype=torch.bfloat16, device_map="auto")  
tokenizer = AutoTokenizer.from_pretrained(model_name)  
chat_pipeline = pipeline("text-generation", model=model, tokenizer=tokenizer)  
set_seed(123)  

# 系统提示设定  
system_prompt = """（内容与上述ollama示例相同）"""  

# 用户输入  
user_input = [  
    {"role": "system", "content": system_prompt},  
    {"role": "user", "content": "你好，能告诉我你的名字吗？"},  
]  

# 生成回复  
responses = chat_pipeline(  
    user_input,  
    max_length=4096,  
    do_sample=True,  
    temperature=0.5,  
    num_return_sequences=3,  
)  

# 输出结果  
for i, response in enumerate(responses, 1):  
    print(f"回复{i}: {response['generated_text'][2]}")  

# 示例输出：  
# 回复1: 樱「你好！我叫樱~」（雀跃地转了个圈）  
# 回复2: 樱「初次见面，我是樱」（优雅地行提裙礼）  
# 回复3: 樱「哇！终于有人和我说话啦！我是樱哦！」（双眼发亮）  

训练配置

主要超参数设置：

- 学习率: 1e-5  
- 学习率调度器: cosine  
- 最小学习率比率: 0.1  
- 全局批次大小: 128  
- 最大序列长度: 8192  
- 权重衰减: 0.01  
- 优化器: 8bit分页AdamW  

许可证

本模型采用MIT许可证开源。