🚀 Kunoichi-DPO-7B

Kunoichi-DPO-7B 是一个基于 Kunoichi-7B 模型，使用英特尔的 Orca 数据对与 Alpaca 模板进行直接偏好优化（DPO）微调得到的模型。该模型主要面向通用场景。在测试中，它比 Kunoichi-7B 具有更强的推理和指令遵循能力，但由于 Orca 数据集的对齐，其角色扮演能力可能会有所下降。

目前，该模型正在进行基准测试，待结果确定后，我将更新模型页面。

🚀 快速开始

此部分文档未提供快速开始的相关内容，暂不展示。

✨ 主要特性

• 基于 Kunoichi-7B 进行 DPO 微调，推理和指令遵循能力更强。
• 适用于通用场景，但角色扮演能力可能因数据集对齐而受影响。
• 支持最大 8k 上下文窗口，使用 NTK RoPE alpha 为 2.6 时，可实验性支持 16k 上下文窗口。

📚 详细文档

模型性能

提示模板

Alpaca 模板

Below is an instruction that describes a task. Write a response that appropriately completes the request.

### Instruction:
{prompt}

### Response:

SillyTavern 格式

使用 Noromaid 模板在 SillyTavern 中能获得最佳效果。

SillyTavern 配置文件：上下文配置，指令配置。

此外，强烈推荐使用 文本完成预设。你可以通过调整温度或最小概率（min p）来提高创造力或稳定性，其他参数通常无需调整。

上下文窗口

该模型支持最大 8k 上下文窗口。使用 NTK RoPE alpha 为 2.6 时，可实验性支持 16k 上下文窗口。

📄 许可证

本模型采用 CC BY-NC 4.0 许可证。