license: other library_name: transformers tags:

• llama-factory
• full
• generated_from_trainer base_model: hon9kon9ize/CantoneseLLM-v1.0-32B-cpt model-index:
• name: CantoneseLLMChat-v1.0-32B results: []

CantoneseLLMChat-v1.0-32B

Cantonese LLM Chat v1.0是hon9kon9ize团队开发的第一代粤语大语言模型。在v0.5预览版成功基础上，该模型在香港相关专业知识和粤语对话方面表现卓越。

模型描述

基础模型通过对Qwen 2.5 32B进行持续预训练获得，使用了6亿篇公开的香港新闻文章和粤语网站数据。指令微调模型使用包含75,000条指令对的数据集训练，其中45,000条是由其他LLM生成并经人工审核的粤语指令。

模型在玄海超级计算机上使用16块Nvidia H100 96GB HBM2e显卡完成训练。

基础用法

import torch
from transformers import AutoTokenizer, AutoModelForCausalLM
model_id = "hon9kon9ize/CantoneseLLMChat-v1.0-32B"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    torch_dtype=torch.bfloat16, 
    device_map="auto", 
)
def chat(messages, temperature=0.9, max_new_tokens=200):
    input_ids = tokenizer.apply_chat_template(conversation=messages, tokenize=True, add_generation_prompt=True, return_tensors='pt').to('cuda:0')
    output_ids = model.generate(input_ids, max_new_tokens=max_new_tokens, temperature=temperature)
    response = tokenizer.decode(output_ids[0][input_ids.shape[1]:], skip_special_tokens=False)
    return response
prompt = "邊個係香港特首？"
messages = [
    {"role": "system", "content": "you are a helpful assistant."},
    {"role": "user", "content": prompt}
]
print(chat(messages)) # 香港特別行政區行政長官係李家超。<|im_end|>

性能表现

在HK-Eval基准测试中，本模型是理解粤语和香港文化的顶尖开源LLM。不过如数据所示，推理模型表现远超同类产品，我们正在为v2版本开发推理模型。