语言:
- 英文
- 中文
许可证: llama3
标签:
- 粤语
- 聊天
- Llama3
数据集:
- jed351/粤语维基百科
- lordjia/粤英翻译
管道标签: 文本生成
模型索引:
- 名称: Llama-3-粤语-8B-指导版
结果:
- 任务:
类型: 文本生成
名称: 文本生成
数据集:
名称: IFEval (零样本)
类型: HuggingFaceH4/ifeval
参数:
少量样本数: 0
指标:
- 类型: 实例级严格准确率和提示级严格准确率
值: 66.69
名称: 严格准确率
来源:
网址: https://huggingface.co/spaces/open-llm-leaderboard/open_llm_leaderboard?query=lordjia/Llama-3-粤语-8B-指导版
名称: 开放大模型排行榜
- 任务:
类型: 文本生成
名称: 文本生成
数据集:
名称: BBH (三样本)
类型: BBH
参数:
少量样本数: 3
指标:
- 类型: 标准化准确率
值: 26.79
名称: 标准化准确率
来源:
网址: https://huggingface.co/spaces/open-llm-leaderboard/open_llm_leaderboard?query=lordjia/Llama-3-粤语-8B-指导版
名称: 开放大模型排行榜
- 任务:
类型: 文本生成
名称: 文本生成
数据集:
名称: 数学五级 (四样本)
类型: hendrycks/竞赛数学
参数:
少量样本数: 4
指标:
- 类型: 精确匹配
值: 8.23
名称: 精确匹配
来源:
网址: https://huggingface.co/spaces/open-llm-leaderboard/open_llm_leaderboard?query=lordjia/Llama-3-粤语-8B-指导版
名称: 开放大模型排行榜
- 任务:
类型: 文本生成
名称: 文本生成
数据集:
名称: GPQA (零样本)
类型: Idavidrein/gpqa
参数:
少量样本数: 0
指标:
- 类型: 标准化准确率
值: 5.82
名称: 标准化准确率
来源:
网址: https://huggingface.co/spaces/open-llm-leaderboard/open_llm_leaderboard?query=lordjia/Llama-3-粤语-8B-指导版
名称: 开放大模型排行榜
- 任务:
类型: 文本生成
名称: 文本生成
数据集:
名称: MuSR (零样本)
类型: TAUR-Lab/MuSR
参数:
少量样本数: 0
指标:
- 类型: 标准化准确率
值: 9.48
名称: 标准化准确率
来源:
网址: https://huggingface.co/spaces/open-llm-leaderboard/open_llm_leaderboard?query=lordjia/Llama-3-粤语-8B-指导版
名称: 开放大模型排行榜
- 任务:
类型: 文本生成
名称: 文本生成
数据集:
名称: MMLU-PRO (五样本)
类型: TIGER-Lab/MMLU-Pro
配置: 主要
分割: 测试
参数:
少量样本数: 5
指标:
- 类型: 准确率
值: 27.94
名称: 准确率
来源:
网址: https://huggingface.co/spaces/open-llm-leaderboard/open_llm_leaderboard?query=lordjia/Llama-3-粤语-8B-指导版
名称: 开放大模型排行榜
Llama-3-粤语-8B-指导版
模型概述
Llama-3-粤语-8B-指导版是基于Meta-Llama-3-8B-指导版的粤语语言模型,使用LoRA进行微调。它旨在提升粤语文本的生成和理解能力,支持对话生成、文本摘要和问答等多种任务。
模型特性
- 基础模型: Meta-Llama-3-8B-指导版
- 微调方法: LoRA指令调优
- 训练步数: 4562步
- 主要语言: 粤语
- 数据集:
- 训练工具: LLaMA-Factory
量化版本
本模型的4位量化版本也可用:llama3-粤语-8b-指导版-q4_0.gguf。
备选模型推荐
如需其他选择,可考虑以下由LordJia针对粤语任务微调的模型:
- Qwen2-粤语-7B-指导版 基于Qwen2-7B-指导版。
- Llama-3.1-粤语-8B-指导版 基于Meta-Llama-3.1-8B-指导版。
许可证
本模型遵循Llama 3社区许可证。使用前请仔细阅读相关条款。
贡献者
详细结果请见此处
指标 |
值 |
平均分 |
24.16 |
IFEval (零样本) |
66.69 |
BBH (三样本) |
26.79 |
数学五级 (四样本) |
8.23 |
GPQA (零样本) |
5.82 |
MuSR (零样本) |
9.48 |
MMLU-PRO (五样本) |
27.94 |