许可证:MIT
语言:
基础模型:
- Qwen/Qwen2.5-14B-Instruct
任务标签:文本生成
GreenMind-Medium-14B-R1
我们发布了GreenMind-Medium-14B-R1,这是一款中等规模的越南语语言模型,能够有效解决需要中级推理的问题,例如常识、数学、自然科学和社会科学主题。通过采用Group Relative Policy Optimization策略进行微调,我们引导模型生成逻辑连贯的响应。
模型描述
快速开始
以下代码片段展示了如何使用apply_chat_template
加载分词器和模型,并生成内容。
from transformers import AutoModelForCausalLM, AutoTokenizer
model_name = "GreenNode/GreenMind-Medium-14B-R1"
model = AutoModelForCausalLM.from_pretrained(
model_name,
torch_dtype="auto",
device_map="auto"
)
tokenizer = AutoTokenizer.from_pretrained(
model_name,
revision='main',
trust_remote_code=False,
)
prompt = r"""Vừa gà vừa chó
Bó lại cho tròn
Ba mươi sáu con
Một trăm chân chẵn
Hỏi có bao nhiêu con gà, bao nhiêu con chó?"""
messages = [
{
"role": "system",
"content": "Bạn là một trợ lý ảo hữu ích trong việc trả lời câu hỏi. Hãy suy luận từng bước, và đưa ra đáp án trong thẻ <answer> </answer>."
},
{
"role": "user",
"content": f"{prompt} Hãy suy luận từng bước trong thẻ <think> </think>. Và trả về đáp án trong thẻ <answer> </answer>."
},
{
"role": "assistant",
"content": "Hãy để tôi giải quyết từng bước.\n<think>"
}
]
text = tokenizer.apply_chat_template(
messages,
tokenize=False,
continue_final_message=True)
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)
generated_ids = model.generate(
**model_inputs,
max_new_tokens=1024
)
generated_ids = [
output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
]
response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]
print(response)
评估
表1. SeaExam数据集。 GreenMind-Medium-14B-R1与基础模型及部分更大规模模型的对比。
模型 |
SeaExam-ID |
SeaExam-TH |
SeaExam-VI |
平均 |
Meta-Llama-3.1-70B-Instruct |
65.8 |
70.6 |
72.6 |
69.7 |
gemma3-27b-it |
64.4 |
67.5 |
73.1 |
68.4 |
Qwen2.5-14B-Instruct |
67.6 |
68.8 |
73.1 |
69.8 |
GreenMind-Medium-14B-R1 |
74.36 |
69.75 |
74.44 |
72.79 |
表2. VLSP 2023挑战赛: 我们的模型性能超越大多数SOTA模型。
模型 |
ComprehensionQA-vi ↑ |
Exams-vi ↑ |
LAMBADA-vi ↓ |
WikiQA-vi ↑ |
MMLU-vi ↑ |
cpt-smartbot-13b |
0.6633 |
0.3473 |
21.9864 |
0.4455 |
0.414 |
ura-llama-13b |
0.6556 |
0.342 |
17.5614 |
0.438 |
0.3973 |
greennode-7b (先前工作) |
0.6122 |
0.2892 |
189.7782 |
0.3335 |
0.387 |
greennode-14b (先前工作) |
0.6711 |
0.3672 |
29.5967 |
0.468 |
0.5281 |
GreenMind-Medium-14B-R1 (我们的) |
0.8689 |
0.7796 |
10.7609 |
0.7915 |
0.7124 |
表3. VMLU数据集。 与微调模型的性能对比。
模型 |
访问权限 |
STEM |
社会科学 |
人文科学 |
其他 |
平均 |
VNPTAI.IO-Medium-R1 |
私有 |
77.09 |
82.3 |
78.85 |
69.98 |
77.43 |
MISA-Llama3-v1.1 |
私有 |
77.5 |
80.75 |
76.62 |
71.6 |
76.87 |
BnK-AI-Medium-v2 |
私有 |
80.94 |
80.76 |
70.7 |
74.06 |
76.66 |
VNPTAI.IO-Large-v4 |
私有 |
78.05 |
79.05 |
75.39 |
70.37 |
76.21 |
GreenNode-xMedium-v1 |
私有 |
75.7 |
81.09 |
75.25 |
69.33 |
75.5 |
GreenMind-Medium-14B-R1 (我们的) |
权重 |
76.78 |
77.36 |
72.32 |
69.03 |
74.29 |
CakebyVPBank-Large |
私有 |
77.75 |
78.11 |
70.38 |
67.82 |
73.99 |
DeepSeek-R1-Distill-Llama-70B |
权重 |
76.77 |
76.23 |
67.98 |
66.82 |
72.41 |
关注我们
https://x.com/greennode23
支持
https://discord.gg/B6MJFM3J3a
许可证
本仓库及模型权重采用MIT许可证。
引用
如果您觉得我们的工作有帮助,欢迎引用。
@misc{tung2025greenmindnextgenerationvietnameselarge,
title={GreenMind: A Next-Generation Vietnamese Large Language Model for Structured and Logical Reasoning},
author={Luu Quy Tung and Hoang Quoc Viet and Vo Trong Thu},
year={2025},
eprint={2504.16832},
archivePrefix={arXiv},
primaryClass={cs.CL},
url={https://arxiv.org/abs/2504.16832},
}
联系我们
- 一般事务与合作:tung.vu@greennode.ai, thuvt@greennode.ai
- 技术问题:viethq5@greennode.ai