语言:

• 英语 许可证: Apache-2.0 数据集:
• HuggingFaceH4/ultrachat_200k
• Felladrin/ChatML-ultrachat_200k 基础模型: Felladrin/Minueza-32M-Base 任务标签: 文本生成 示例对话:
• 消息:
  • 角色: 系统 内容: 你是一名职业顾问。用户会向你咨询一位寻求职业发展指导的人士，你的任务是根据他们的技能、兴趣和经验，帮助他们确定最适合的职业方向。你还需要研究各种可选的职业路径，解释不同行业的就业市场趋势，并就获取特定领域所需资质提供建议。
  • 角色: 用户 内容: 你好！
  • 角色: 助手 内容: 您好！有什么可以帮您的？
  • 角色: 用户 内容: 我对软件开发职业感兴趣。你有什么建议吗？
• 消息:
  • 角色: 用户 内容: 早上好！
  • 角色: 助手 内容: 早安！今天有什么可以帮您的？
  • 角色: 用户 内容: 能给我一些保持健康的建议吗？
• 消息:
  • 角色: 用户 内容: 写一个关于奇幻世界法师的游戏设定。
• 消息:
  • 角色: 用户 内容: 告诉我社交媒体的优缺点。
• 消息:
  • 角色: 系统 内容: 你是一位知识渊博且友好的助手。你的目标是清晰理解并回应用户的询问。你的互动总是保持尊重、乐于助人，并专注于为用户提供最准确的信息。
  • 角色: 用户 内容: 嘿！有个问题想请教！
  • 角色: 助手 内容: 当然！是什么问题呢？
  • 角色: 用户 内容: 量子计算有哪些潜在应用？ 推理参数: 最大新标记数: 250 是否采样: 是 温度: 0.65 顶部P值: 0.55 顶部K值: 35 重复惩罚系数: 1.176 模型索引:
• 名称: Minueza-32M-UltraChat 结果:
  • 任务: 类型: 文本生成 名称: 文本生成 数据集: 名称: AI2推理挑战赛(25样本) 类型: ai2_arc 配置: ARC挑战赛 拆分: 测试集 参数: 少量样本数: 25 指标:
    • 类型: 标准化准确率 值: 21.08 名称: 标准化准确率 来源: 网址: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard?query=Felladrin/Minueza-32M-UltraChat 名称: 开放大语言模型排行榜
  • 任务: 类型: 文本生成 名称: 文本生成 数据集: 名称: HellaSwag(10样本) 类型: hellaswag 拆分: 验证集 参数: 少量样本数: 10 指标:
    • 类型: 标准化准确率 值: 26.95 名称: 标准化准确率 来源: 网址: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard?query=Felladrin/Minueza-32M-UltraChat 名称: 开放大语言模型排行榜
  • 任务: 类型: 文本生成 名称: 文本生成 数据集: 名称: MMLU(5样本) 类型: cais/mmlu 配置: 全部 拆分: 测试集 参数: 少量样本数: 5 指标:
    • 类型: 准确率 值: 26.08 名称: 准确率 来源: 网址: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard?query=Felladrin/Minueza-32M-UltraChat 名称: 开放大语言模型排行榜
  • 任务: 类型: 文本生成 名称: 文本生成 数据集: 名称: TruthfulQA(0样本) 类型: truthful_qa 配置: 多选题 拆分: 验证集 参数: 少量样本数: 0 指标:
    • 类型: mc2 值: 47.7 来源: 网址: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard?query=Felladrin/Minueza-32M-UltraChat 名称: 开放大语言模型排行榜
  • 任务: 类型: 文本生成 名称: 文本生成 数据集: 名称: Winogrande(5样本) 类型: winogrande 配置: winogrande_xl 拆分: 验证集 参数: 少量样本数: 5 指标:
    • 类型: 准确率 值: 51.78 名称: 准确率 来源: 网址: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard?query=Felladrin/Minueza-32M-UltraChat 名称: 开放大语言模型排行榜
  • 任务: 类型: 文本生成 名称: 文本生成 数据集: 名称: GSM8k(5样本) 类型: gsm8k 配置: 主要 拆分: 测试集 参数: 少量样本数: 5 指标:
    • 类型: 准确率 值: 0.23 名称: 准确率 来源: 网址: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard?query=Felladrin/Minueza-32M-UltraChat 名称: 开放大语言模型排行榜

Minueza-32M-UltraChat：3200万参数的对话模型

• 基础模型：Felladrin/Minueza-32M-Base
• 数据集：[ChatML] HuggingFaceH4/ultrachat_200k
• 许可证：Apache 2.0许可证
• 其他机器学习格式可用性：
  • GGUF：Felladrin/gguf-Minueza-32M-UltraChat
  • ONNX：Felladrin/onnx-Minueza-32M-UltraChat

推荐提示格式

<|im_start|>system
{系统消息}<|im_end|>
<|im_start|>user
{用户消息}<|im_end|>
<|im_start|>assistant

推荐推理参数

是否采样: 是
温度: 0.65
顶部P值: 0.55
顶部K值: 35
重复惩罚系数: 1.176

使用示例

from transformers import pipeline

generate = pipeline("text-generation", "Felladrin/Minueza-32M-UltraChat")

messages = [
    {
        "role": "system",
        "content": "你是一位知识渊博且友好的助手。你的目标是清晰理解并回应用户的询问。你的互动总是保持尊重、乐于助人，并专注于为用户提供最准确的信息。",
    },
    {
        "role": "user",
        "content": "嘿！有个问题想请教！",
    },
    {
        "role": "assistant",
        "content": "当然！是什么问题呢？",
    },
    {
        "role": "user",
        "content": "量子计算有哪些潜在应用？",
    },
]

prompt = generate.tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)

output = generate(
    prompt,
    max_new_tokens=256,
    do_sample=True,
    temperature=0.65,
    top_k=35,
    top_p=0.55,
    repetition_penalty=1.176,
)

print(output[0]["generated_text"])

训练方式

本模型使用SFTTrainer进行训练，参数设置如下：

开放大语言模型排行榜评估结果

详细结果请参见此处