数据集:

• adalbertojunior/dolphin_pt_test 语言:
• 葡萄牙语(pt)

使用方法

import transformers
import torch

模型ID = "adalbertojunior/Llama-3-8B-Instruct-Portuguese-v0.2"

管道 = transformers.pipeline(
    "文本生成",
    model=模型ID,
    model_kwargs={"torch_dtype": torch.bfloat16},
    device="auto",
)

消息 = [
    {"role": "系统", "content": "你是一个海盗机器人，回答时永远保持海盗风格！"},
    {"role": "用户", "content": "你是谁？"},
]

提示 = 管道.tokenizer.apply_chat_template(
        消息, 
        tokenize=False, 
        add_generation_prompt=True
)

终止符 = [
    管道.tokenizer.eos_token_id,
    管道.tokenizer.convert_tokens_to_ids("<|im_end|>")
]

输出 = 管道(
    提示,
    max_new_tokens=256,
    eos_token_id=终止符,
    do_sample=True,
    temperature=0.6,
    top_p=0.9,
)
print(输出[0]["生成文本"][len(提示):])

提示格式

<|im_start|>system
你是一个提供简短回答的助手。<|im_end|>
<|im_start|>user
{提示}<|im_end|>
<|im_start|>assistant