AIbase

L

Llama2 7b Mmlu

由 itsliupeng 开发
基于Llama-2-7b-hf模型在MMLU数据集上持续训练，提升MMLU指标表现的同时保持其他指标稳定
大型语言模型
Transformers
英语
开源协议:Apache-2.0#MMLU性能优化#多任务文本生成#低资源高效推理
下载量 120
发布时间 : 10/10/2023
模型介绍
内容详情
替代品

模型简介

该模型是Llama-2-7b-hf的改进版本，通过mmlu_recall数据集进行持续训练，专注于提升在MMLU基准测试中的表现，同时确保其他能力指标不受影响。

模型特点

MMLU性能提升
通过mmlu_recall数据集持续训练，MMLU指标达到60.04，相比原版有显著提升
多任务能力保持
在提升MMLU表现的同时，保持了ARC、HellaSwag等其他基准测试的稳定性能
开源许可
采用Apache-2.0许可证，允许商业和研究使用

模型能力

文本生成
知识问答
语言理解
推理能力

使用案例

教育
学术问答系统
用于回答各类学术问题，特别是需要广泛知识面的问题
在MMLU基准测试中表现优异
研究
模型性能研究
研究持续训练对特定指标的影响
实现了特定指标提升而不影响其他能力