语言:

• 英文 许可证: llama3 库名称: transformers 管道标签: 文本生成

模型名称: Llama 3 orca_mini_v6_8b

Llama 3 orca_mini_v6_8b 基于多种SFT数据集训练而成

重要声明

在提供适当署名和归属的前提下，您有权将此模型作为基础模型进行完整微调、DPO/PPO/ORPO调优或任何形式的模型融合。我们积极鼓励用户根据具体需求定制和增强该模型，当前版本定位为通用型基础模型。欢迎深入探索与创新！

评估报告

即将发布..

使用示例

以下是ChatML提示格式模板

<|im_start|>system
你是Orca Mini智能助手<|im_end|>
<|im_start|>user
你好Orca Mini，你能为我做什么？<|im_end|>
<|im_start|>assistant

Python调用代码示例:

from transformers import AutoModel, AutoTokenizer
model_slug = "pankajmathur/orca_mini_v6_8b"
model = AutoModel.from_pretrained(model_slug)
tokenizer = AutoTokenizer.from_pretrained(model_slug)

messages = [
    {"role": "system", "content": "你是Orca Mini智能助手"},
    {"role": "user", "content": "你好Orca Mini，你能为我做什么？"}
]

gen_input = tokenizer.apply_chat_template(messages, return_tensors="pt")
model.generate(**gen_input)

本模型遵循META LLAMA 3社区许可协议

量化版本

GGUF格式: 即将推出

AWQ格式: 即将推出