许可证：MIT
语言：

• 葡萄牙语

基础模型：

• Qwen/Qwen2.5-0.5B-Instruct

任务标签：文本生成

数据集：

• adalbertojunior/openHermes_portuguese
• cnmoro/smoltalk-555k-ptbr
• cnmoro/RagMixPTBR-Legal-Alpaca-2M

模型索引：

• 名称：Qwen2.5-0.5B-Portuguese-v1
  结果：

  • 任务：
    类型：文本生成
    名称：文本生成
    数据集：
    名称：ENEM Challenge（无图像）
    类型：eduagarcia/enem_challenge
    拆分：训练集
    参数：
    少量样本数：3
    指标：

    • 类型：准确率
      值：37.86
      名称：准确率
      来源：
      URL：https://huggingface.co/spaces/eduagarcia/open_pt_llm_leaderboard?query=cnmoro/Qwen2.5-0.5B-Portuguese-v1
      名称：Open Portuguese LLM Leaderboard

  • 任务：
    类型：文本生成
    名称：文本生成
    数据集：
    名称：BLUEX（无图像）
    类型：eduagarcia-temp/BLUEX_without_images
    拆分：训练集
    参数：
    少量样本数：3
    指标：

    • 类型：准确率
      值：34.63
      名称：准确率
      来源：
      URL：https://huggingface.co/spaces/eduagarcia/open_pt_llm_leaderboard?query=cnmoro/Qwen2.5-0.5B-Portuguese-v1
      名称：Open Portuguese LLM Leaderboard

  • 任务：
    类型：文本生成
    名称：文本生成
    数据集：
    名称：OAB考试
    类型：eduagarcia/oab_exams
    拆分：训练集
    参数：
    少量样本数：3
    指标：

    • 类型：准确率
      值：33.12
      名称：准确率
      来源：
      URL：https://huggingface.co/spaces/eduagarcia/open_pt_llm_leaderboard?query=cnmoro/Qwen2.5-0.5B-Portuguese-v1
      名称：Open Portuguese LLM Leaderboard

  • 任务：
    类型：文本生成
    名称：文本生成
    数据集：
    名称：Assin2 RTE
    类型：assin2
    拆分：测试集
    参数：
    少量样本数：15
    指标：

    • 类型：宏观F1
      值：86.3
      名称：宏观F1
      来源：
      URL：https://huggingface.co/spaces/eduagarcia/open_pt_llm_leaderboard?query=cnmoro/Qwen2.5-0.5B-Portuguese-v1
      名称：Open Portuguese LLM Leaderboard

  • 任务：
    类型：文本生成
    名称：文本生成
    数据集：
    名称：Assin2 STS
    类型：eduagarcia/portuguese_benchmark
    拆分：测试集
    参数：
    少量样本数：15
    指标：

    • 类型：皮尔逊相关系数
      值：54.3
      名称：皮尔逊相关系数
      来源：
      URL：https://huggingface.co/spaces/eduagarcia/open_pt_llm_leaderboard?query=cnmoro/Qwen2.5-0.5B-Portuguese-v1
      名称：Open Portuguese LLM Leaderboard

  • 任务：
    类型：文本生成
    名称：文本生成
    数据集：
    名称：FaQuAD NLI
    类型：ruanchaves/faquad-nli
    拆分：测试集
    参数：
    少量样本数：15
    指标：

    • 类型：宏观F1
      值：65.33
      名称：宏观F1
      来源：
      URL：https://huggingface.co/spaces/eduagarcia/open_pt_llm_leaderboard?query=cnmoro/Qwen2.5-0.5B-Portuguese-v1
      名称：Open Portuguese LLM Leaderboard

  • 任务：
    类型：文本生成
    名称：文本生成
    数据集：
    名称：HateBR Binary
    类型：ruanchaves/hatebr
    拆分：测试集
    参数：
    少量样本数：25
    指标：

    • 类型：宏观F1
      值：44.06
      名称：宏观F1
      来源：
      URL：https://huggingface.co/spaces/eduagarcia/open_pt_llm_leaderboard?query=cnmoro/Qwen2.5-0.5B-Portuguese-v1
      名称：Open Portuguese LLM Leaderboard

  • 任务：
    类型：文本生成
    名称：文本生成
    数据集：
    名称：葡萄牙语仇恨言论 Binary
    类型：hate_speech_portuguese
    拆分：测试集
    参数：
    少量样本数：25
    指标：

    • 类型：宏观F1
      值：55.1
      名称：宏观F1
      来源：
      URL：https://huggingface.co/spaces/eduagarcia/open_pt_llm_leaderboard?query=cnmoro/Qwen2.5-0.5B-Portuguese-v1
      名称：Open Portuguese LLM Leaderboard

  • 任务：
    类型：文本生成
    名称：文本生成
    数据集：
    名称：tweetSentBR
    类型：eduagarcia/tweetsentbr_fewshot
    拆分：测试集
    参数：
    少量样本数：25
    指标：

    • 类型：宏观F1
      值：45.96
      名称：宏观F1
      来源：
      URL：https://huggingface.co/spaces/eduagarcia/open_pt_llm_leaderboard?query=cnmoro/Qwen2.5-0.5B-Portuguese-v1
      名称：Open Portuguese LLM Leaderboard

Qwen2.5-0.5B针对葡萄牙语能力和智能提升进行了微调。

https://ollama.com/cnmoro/Qwen2.5-0.5B-Portuguese-v1

from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "cnmoro/Qwen2.5-0.5B-Portuguese-v1"

model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype="auto",
    device_map="auto"
)
tokenizer = AutoTokenizer.from_pretrained(model_name)

prompt = "写一段关于LLMs（大型语言模型）及其应用的简短介绍。"

# 系统提示会自动注入并硬编码，以获得葡萄牙语的最佳性能。
# 无需重复编写。
messages = [
    {"role": "user", "content": prompt}
]
text = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True
)
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)

generated_ids = model.generate(
    **model_inputs,
    max_new_tokens=512
)
generated_ids = [
    output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
]

response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]
response
# LLM代表大型语言模型，是计算语言学模型，
# 旨在模拟人类在文本处理和生成中的智能。
# 这些模型使用先进的机器学习和神经网络技术，
# 根据输入数据理解和生成文本。LLM的应用包括
# 自动翻译、情感分析、主题建模和自动问答。
# 它们正越来越多地应用于健康、教育和金融等领域，
# 以改善沟通、客户体验和研究结果。

总体结果

详细结果

assin2_rte

assin2_sts

bluex

enem_challenge