许可证：llama3
模型索引：
- 名称：llama-3-cat-8b-instruct-v1
结果：
- 任务：
类型：文本生成
名称：文本生成
数据集：
名称：AI2推理挑战赛（25样本）
类型：ai2_arc
配置：ARC挑战赛
拆分：测试集
参数：
少量样本数：25
指标：
- 类型：标准化准确率
值：59.04
名称：标准化准确率
来源：
网址：https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard?query=TheSkullery/llama-3-cat-8b-instruct-v1
名称：开放大模型排行榜
- 任务：
类型：文本生成
名称：文本生成
数据集：
名称：HellaSwag（10样本）
类型：hellaswag
拆分：验证集
参数：
少量样本数：10
指标：
- 类型：标准化准确率
值：79.2
名称：标准化准确率
来源：
网址：https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard?query=TheSkullery/llama-3-cat-8b-instruct-v1
名称：开放大模型排行榜
- 任务：
类型：文本生成
名称：文本生成
数据集：
名称：MMLU（5样本）
类型：cais/mmlu
配置：全部
拆分：测试集
参数：
少量样本数：5
指标：
- 类型：准确率
值：62.99
名称：准确率
来源：
网址：https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard?query=TheSkullery/llama-3-cat-8b-instruct-v1
名称：开放大模型排行榜
- 任务：
类型：文本生成
名称：文本生成
数据集：
名称：TruthfulQA（0样本）
类型：truthful_qa
配置：多项选择
拆分：验证集
参数：
少量样本数：0
指标：
- 类型：mc2
值：50.8
来源：
网址：https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard?query=TheSkullery/llama-3-cat-8b-instruct-v1
名称：开放大模型排行榜
- 任务：
类型：文本生成
名称：文本生成
数据集：
名称：Winogrande（5样本）
类型：winogrande
配置：winogrande_xl
拆分：验证集
参数：
少量样本数：5
指标：
- 类型：准确率
值：75.93
名称：准确率
来源：
网址：https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard?query=TheSkullery/llama-3-cat-8b-instruct-v1
名称：开放大模型排行榜
- 任务：
类型：文本生成
名称：文本生成
数据集：
名称：GSM8k（5样本）
类型：gsm8k
配置：主集
拆分：测试集
参数：
少量样本数：5
指标：
- 类型：准确率
值：60.5
名称：准确率
来源：
网址：https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard?query=TheSkullery/llama-3-cat-8b-instruct-v1
名称：开放大模型排行榜
猫-llama3-指令数据卡
呈现者：
- 数据集构建者：Kal'tsit博士（Kat）
- 训练者/资助者：SteelSkull
- 协调者：Potatooff
模型的70b变体（由Kal'tsit博士训练，由Turboderp发布），请查看！
关于：
猫-llama3-指令是一个基于llama 3 8b的微调模型，专注于系统提示的忠实度、帮助性和角色沉浸感。该模型旨在极度尊重系统提示，在任何情况下提供有用的信息，并在给定场景中提供最大程度的角色沉浸感（角色扮演）。
具体目标：
- 系统指令的忠实度
- 思维链（COT）
- 角色沉浸感
- 对生物科学和一般科学的帮助性
方法
数据集准备
系统地从Huggingface数据集中提取了包含指令-响应对的数据集。一个GPT模型被专门训练以生成高质量和有用的响应，作为标准模型。
(图1. Huggingface数据集各组成部分的分布和过滤)
数据集进一步根据长度和COT响应进行了过滤：
(图2. COT响应均超过50个令牌的单轮)
还从Chat Doctor中提取了健康相关数据，偏好详细和逐步的诊断：
(图3. 健康相关任务均超过100个令牌，峰值达到450个令牌的单轮)
模型训练
1*a100显卡训练6天，4个周期
使用方法：
提示格式：llama 3
量化版本：
<|begin_of_text|>以下是用户与AI助手之间的对话。AI助手根据用户的问题提供响应。用户：用户：根据任务定义和输入，回复输出。在此任务中，你将获得一个问题和答案，你需要根据提供的问答创建句子。句子应包含在提供的问答中。
问题：人类中由原生动物引起的疾病类型是什么？答案：原生生物疾病
助手：AI：任务说明：
在此任务中，你需要使用给定的问题和提供的答案创建一个句子。你创建的句子应以简洁连贯的方式包含问题和答案中的信息。
指南：
- 仔细阅读给定的问题和答案。
- 结合问题和答案中的信息创建一个新句子。
- 确保你的新句子包含问题的信息和提供的答案。
- 检查句子的语法和标点是否正确。
找到答案的步骤：
- 阅读问题："人类中由原生动物引起的疾病类型是什么？"
- 阅读答案："原生生物疾病"
- 结合问题和答案中的信息创建新句子："在人类中，原生生物疾病是由原生动物引起的。"
- 再次检查句子的语法和标点，必要时进行调整。
最终输出：
在人类中，原生生物疾病是由原生动物引起的。< / s ><|end_of_text|>
展示：
模型以灰色显示COT，以黑色显示计算出的响应；注意这种行为是通过系统卡指令展示系统卡的忠实度，而不是通过微调实现的。
(图4. 展示模型通过COT解决复杂任务，扩展和丰富其答案)
# [开放大模型排行榜评估结果](https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard)
详细结果可查看[此处](https://huggingface.co/datasets/open-llm-leaderboard/details_TheSkullery__llama-3-cat-8b-instruct-v1)
| 指标 |
值 |
| 平均 |
64.74 |
| AI2推理挑战赛（25样本） |
59.04 |
| HellaSwag（10样本） |
79.20 |
| MMLU（5样本） |
62.99 |
| TruthfulQA（0样本） |
50.80 |
| Winogrande（5样本） |
75.93 |
| GSM8k（5样本） |
60.50 |
Transformers%20--%3e%3cdefs%3e%3cstyle%3e%20.st0%20{%20fill:%20none;%20}%20.st1%20{%20fill:%20%235ce6cf;%20}%20.st2%20{%20fill:%20%230080ff;%20}%20.st3%20{%20clip-path:%20url(%23clippath);%20}%20%3c/style%3e%3cclipPath%20id='clippath'%3e%3crect%20class='st0'%20y='0'%20width='120'%20height='32'/%3e%3c/clipPath%3e%3c/defs%3e%3cg%20class='st3'%3e%3cg%3e%3cpath%20class='st1'%20d='M22.4,32H3.2c-1,0-2-.5-2.6-1.4-.6-.9-.7-2-.4-2.9L9.8,2.1C10.3.8,11.5,0,12.8,0s2.5.8,3,2.1l9.6,25.6c.4,1,.2,2.1-.4,2.9-.6.9-1.6,1.4-2.6,1.4ZM7.8,25.6h10l-5-13.3-5,13.3Z'/%3e%3cpath%20class='st2'%20d='M33.6,32c-1.3,0-2.5-.8-3-2.1L21,4.3c-.6-1.7.2-3.5,1.9-4.1,1.7-.6,3.5.2,4.1,1.9l9.6,25.6c.6,1.7-.2,3.5-1.9,4.1-.4.1-.8.2-1.1.2h0Z'/%3e%3cpath%20d='M71.8,9.1h-6.9v4.6h6.9c2.5,0,4.6,2,4.6,4.6h-6.9c-3.8,0-6.9,3.1-6.9,6.9s3.1,6.9,6.9,6.9h2.3c1.7,0,3.2-.4,4.6-1.2v1.2h4.6v-13.7c0-5-4.1-9.1-9.1-9.1h0ZM71.8,27.4h-2.3c-1.3,0-2.3-1-2.3-2.3s1-2.3,2.3-2.3h6.9c0,2.5-2,4.6-4.6,4.6h0Z'/%3e%3cpath%20d='M52.3,9.1h-4.6V0h-4.6V32h9.1c5,0,9.1-4.1,9.1-9.1v-4.6c0-5.1-4.1-9.1-9.1-9.1h0ZM56.9,22.9c0,2.5-2,4.6-4.6,4.6h-4.6v-13.7h4.6c2.5,0,4.6,2,4.6,4.6v4.6h0Z'/%3e%3cpath%20d='M110.9,13.7h9.1v-4.6h-9.1c-5.1,0-9.1,4.1-9.1,9.1v4.6c0,5.1,4.1,9.1,9.1,9.1h9.1v-4.6h-9.1c-2.5,0-4.6-2-4.6-4.6h13.7v-4.6h-13.7c0-2.5,2-4.6,4.6-4.6h0Z'/%3e%3cpath%20d='M93.6,18.3h-4.6c-1.3,0-2.3-1-2.3-2.3s1-2.3,2.3-2.3h10.3v-4.6h-10.3c-3.8,0-6.9,3.1-6.9,6.9s3.1,6.9,6.9,6.9h4.6c1.3,0,2.3,1,2.3,2.3s-1,2.3-2.3,2.3h-10.3v4.6h10.3c3.8,0,6.9-3.1,6.9-6.9s-3.1-6.9-6.9-6.9Z'/%3e%3c/g%3e%3c/g%3e%3c/svg%3e)