Kunoichi 7B

由 SanjiWatsuki 开发

Kunoichi-7B是一款兼具通用性与角色扮演能力的7B参数大语言模型，在多项基准测试中表现优异。

大型语言模型

Transformers

#高智能角色扮演 #8k长上下文 #多基准领先

下载量 196

发布时间 : 1/4/2024

模型介绍

内容详情

替代品

模型简介

该模型是Silicon-Maid-7B与未发布模型Ninja-7B的SLERP融合产物，在保留角色扮演优势的同时显著提升了智能水平，支持8k上下文窗口并可扩展至16k。

模型特点

高性能基准表现

在MT Bench、EQ Bench等与ChatBot Arena Elo高度相关的基准测试中超越同类7B模型

角色扮演能力

保留前代模型对SillyTavern角色卡的精准遵循能力

长上下文支持

原生支持8k上下文窗口，通过NTK RoPE alpha设置可实验性扩展至16k

模型融合技术

采用SLERP融合技术结合Silicon-Maid-7B和Ninja-7B的优势

模型能力

通用文本生成

角色扮演对话

长文本理解

逻辑推理

多轮对话

使用案例

对话系统

角色扮演聊天

在SillyTavern等平台实现高质量角色扮演互动

能精准遵循角色卡设定并保持连贯性

智能助手

作为通用AI助手处理各类日常问答

在MT Bench得分8.14，超越GPT-3.5-Turbo

教育研究

基准测试研究

用于评估7B参数级模型的性能边界

在AGIEval(44.99)、GPT4All(74.86)等基准表现优异

许可协议：知识共享署名-非商业性使用 4.0
标签：

模型融合

图片/png

模型描述

本仓库托管了Kunoichi-7B——一款兼具通用性与角色扮演能力的模型。在测试与基准评估中，Kunoichi展现出卓越性能，既保留了我先前模型的优势，又显著提升了智能水平。该模型在与ChatBot Arena Elo高度相关的所有基准测试中表现极为出色。

模型	MT Bench	EQ Bench	MMLU	逻辑测试
GPT-4-Turbo	9.32	-	-	-
GPT-4	8.99	62.52	86.4	0.86
Kunoichi-7B	8.14	44.32	64.9	0.58
Starling-7B	8.09	-	63.9	0.51
Claude-2	8.06	52.14	78.5	-
Silicon-Maid-7B	7.96	40.44	64.7	0.54
Loyal-Macaroni-Maid-7B	7.95	38.66	64.9	0.57
GPT-3.5-Turbo	7.94	50.28	70	0.57
Claude-1	7.9	-	77	-
Openchat-3.5	7.81	37.08	64.3	0.39
Dolphin-2.6-DPO	7.74	42.88	61.9	0.53
Zephyr-7B-beta	7.34	38.71	61.4	0.30
Llama-2-70b-chat-hf	6.86	51.56	63	-
Neural-chat-7b-v3-1	6.84	43.61	62.4	0.30

本模型支持最高8k上下文窗口。通过设置NTK RoPE alpha值为2.6，可实验性扩展至16k上下文窗口。

提示模板：自定义格式或Alpaca格式

Alpaca格式：

以下是描述任务的指令。请撰写恰当完成该请求的回复。  

### 指令：  
{提示内容}  

### 回复：

SillyTavern格式：

推荐使用Noromaid模板获得最佳效果。

SillyTavern配置文件：上下文设置，指令设置。

另附强烈推荐的文本补全预设。可通过调节温度参数或降低min p值增强创造性，或提高min p值提升稳定性，其余参数无需调整！

Kunoichi-7B是什么？

Kunoichi-7B是我的前代角色扮演模型Silicon-Maid-7B与未发布模型"Ninja-7B"的SLERP融合产物。该模型在保留Silicon-Maid-7B角色扮演优势的同时，显著提升了模型智能水平，旨在同步提高MT-Bench和EQ-Bench分数，且不损失其对SillyTavern角色卡的精准遵循能力。

Ninja-7B源于将jan-hq/stealth-v1.2转化为可用模型的尝试。虽然Ninja原型模型未达预期，但其成为优质融合素材。与Silicon-Maid-7B结合后，产生了这一强力模型。

其他基准测试

模型	平均分	AGIEval	GPT4All	TruthfulQA	Bigbench
Kunoichi-7B	57.54	44.99	74.86	63.72	46.58
OpenPipe/mistral-ft-optimized-1218	56.85	44.74	75.6	59.89	47.17
Silicon-Maid-7B	56.45	44.74	74.26	61.5	45.32
mlabonne/NeuralHermes-2.5-Mistral-7B	53.51	43.67	73.24	55.37	41.76
teknium/OpenHermes-2.5-Mistral-7B	52.42	42.75	72.99	52.99	40.94
openchat/openchat_3.5	51.34	42.67	72.92	47.27	42.51
berkeley-nest/Starling-LM-7B-alpha	51.16	42.06	72.72	47.33	42.53
HuggingFaceH4/zephyr-7b-beta	50.99	37.33	71.83	55.1	39.7