库名称：transformers
许可证：llama3
语言：

• 英语
• 波斯语
  标签：
• 大语言模型
• llama-3
• PartAI
• 对话式模型
  基础模型：
• meta-llama/Meta-Llama-3-8B-Instruct

模型详情

Dorna模型系列是由Part AI开发的仅解码器架构模型，专门针对波斯语数据进行了训练/微调。作为首次发布，该系列的8B指令模型现已开放使用。
Dorna-Llama3-8B-Instruct基于Meta Llama 3 Instruct模型构建。

使用方法

您可以使用Transformers的Auto类配合generate()函数进行对话推理。以下是一个示例：

import torch  
import transformers  
from transformers import AutoTokenizer, AutoModelForCausalLM  

tokenizer = AutoTokenizer.from_pretrained(model_path)  
model = AutoModelForCausalLM.from_pretrained(  
    model_path,  
    torch_dtype=torch.bfloat16,  
    device_map="auto",  
)  

messages = [  
    {"role": "system",  
     "content": "你是一个乐于助人的波斯语助手。请用提问语言回答问题。"},  
    {"role": "user", "content": "A4纸和A5纸哪个更大？"},  
]  

input_ids = tokenizer.apply_chat_template(  
    messages,  
    add_generation_prompt=True,  
    return_tensors="pt"  
).to(model.device)  

terminators = [  
    tokenizer.eos_token_id,  
    tokenizer.convert_tokens_to_ids("<|eot_id|>")  
]  

outputs = model.generate(  
    input_ids,  
    max_new_tokens=256,  
    eos_token_id=terminators,  
    do_sample=True,  
    temperature=0.6,  
    top_p=0.9,  
)  
response = outputs[0][input_ids.shape[-1]:]  
print(tokenizer.decode(response, skip_special_tokens=True))  

您也可以通过下方Notebook在Google Colab中测试模型：

评估

本模型在多项任务中进行评估，包括布尔问题、代码生成、长文本回答、数学、新闻问答、改写、常识问答和摘要生成。大多数类别分为两个难度级别：困难与简单。

评估采用人工评估和自动评估（以GPT-4为评判标准）两种方式。

以下表格中，Dorna-8B-it是Dorna-Llama3-8B-Instruct的缩写。

总体人工评估结果如下：

分项人工评估结果如下：
（表格中数据为胜/败/平局百分比）

自动评估结果如下：

联系我们

如有关于本模型的任何问题，您可以通过Hugging Face社区联系我们。