🚀 MaziyarPanahi/calme-3.2-instruct-78b

该模型是强大的Qwen/Qwen2.5 - 72B的高级迭代版本，专门针对通用领域进行了微调，以增强其性能。Qwen2.5 - 72B基础模型通过自合并的方式创建了一个更大的模型，之后在自定义数据集上进行了微调。

🚀 快速开始

模型使用示例

# Use a pipeline as a high-level helper

from transformers import pipeline

messages = [
    {"role": "user", "content": "Who are you?"},
]
pipe = pipeline("text-generation", model="MaziyarPanahi/calme-3.2-instruct-78b")
pipe(messages)


# Load model directly

from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("MaziyarPanahi/calme-3.2-instruct-78b")
model = AutoModelForCausalLM.from_pretrained("MaziyarPanahi/calme-3.2-instruct-78b")

✨ 主要特性

• 基于强大的Qwen/Qwen2.5 - 72B模型进行高级迭代。
• 通过自合并创建更大模型，并在自定义数据集上微调，提升通用领域能力。

📦 量化模型

⚡ Quantized GGUF

感谢 bartowski 提供的 GGUF 模型：calme-3.2-instruct-78b-GGUF

⚡ Quantized EXL2

感谢 DavidCatalano 提供的 EXL2 4.5 位/权重（bpw）模型：DavidCatalano/calme-3.2-instruct-78b-exl2

🏆 Open LLM Leaderboard 评估结果

详细结果可查看 此处

📚 详细文档

提示模板

该模型使用 ChatML 提示模板：

<|im_start|>system
{System}
<|im_end|>
<|im_start|>user
{User}
<|im_end|>
<|im_start|>assistant
{Assistant}

🔧 技术细节

模型基于Qwen/Qwen2.5 - 72B进行自合并和微调。自合并操作创建了更大的模型，之后在自定义数据集上进行微调，以提升其在通用领域的性能。

📄 许可证

本模型使用的许可证为 Qwen 许可证

重要提示与建议

⚠️ 重要提示

这是一个实验性模型，因此对于某些提示可能表现不佳，并且可能对超参数敏感。欢迎提供任何反馈，以便在下一次迭代中修复问题。 ❤️

💡 使用建议

与任何大型语言模型一样，用户应注意潜在的偏差和局限性。建议在生产环境中部署此模型时实施适当的保障措施和人工监督。