语言:

• 英文 任务标签:
• 文本生成推理
• 指导型生成 许可证: llama2

蔷薇-20B

实验性缝合模型

其他格式

GGUF量化版
GPTQ量化版
AWQ量化版
exl2量化版

模型详情

本模型由CalderaAI的荆棘-13B与NeverSleep团队（IkariDev和Undi）开发的诺伦女仆-13B-v0.1.1缝合而成。配方由Trappu提议，层级分配方案由Undi设计。该模型在各类角色扮演场景中表现卓越，命名为"蔷薇"因其完美诠释了"带刺女仆"的特质。

推荐使用Alpaca指令格式：

以下是描述任务的指令，请撰写恰当完成要求的回复。

### 指令：
{输入提示}

### 回复：

欢迎分享其他有效提示模板。本模型具有极强的适应性。

警告：由于KV缓存增加导致显存需求上升，该模型对显存要求显著提高。

存在意义

• 可作为基础模型，结合我们的数据集微调出Pygmalion-20B
• 适合与其他20B缝合模型进行融合实验

模型配方

切片方案:
  - 源模型:
    - 模型: 荆棘-13B
      层级范围: [0, 16]
  - 源模型:
    - 模型: 诺伦女仆-13B
      层级范围: [8, 24]
  - 源模型:
    - 模型: 荆棘-13B
      层级范围: [17, 32]
  - 源模型:
    - 模型: 诺伦女仆-13B
      层级范围: [25, 40]
融合方法: 直通式
数据类型: float16

特别感谢Undi提供的配方。

用户反馈

经PygmalionAI Discord社区成员测试，绝大多数测试者给予高度评价，仅少数认为表现平平。考虑到社区对角色扮演模型的严苛标准，这样的积极反馈令人惊喜。

联系方式

可通过Discord联系tav（用户名tav），欢迎随时交流模型相关见解。