library_name: transformers
tags:

• mergekit
• merge
• mistral

模型信息

该模型在角色一致性方面表现良好。

Sillytavern预设文件位于预设文件夹。

我已移除added_tokens.json并编辑了config.json以适配gguf格式，如有问题请告知。

角色设定

附赠角色卡片模板可供新角色创作参考，格式源自https://twitter.com/victorianmaids。

Nina-v2-7B模型

本模型采用mergekit工具对预训练语言模型进行融合。

融合详情

融合方法

采用SLERP球面线性插值融合法。

融合模型

合并了以下模型：

• Virt-io/Nina-7B
• NousResearch/Hermes-2-Pro-Mistral-7B

配置参数

生成本模型的YAML配置如下：

slices:  
  - sources:  
      - model: NousResearch/Hermes-2-Pro-Mistral-7B  
        layer_range: [0, 32]  
      - model: Virt-io/Nina-7B  
        layer_range: [0, 32]  
merge_method: slerp  
base_model: NousResearch/Hermes-2-Pro-Mistral-7B  
parameters:  
  t:  
    - filter: self_attn  
      value: [0, 0.5, 0.3, 0.7, 1]  
    - filter: mlp  
      value: [1, 0.5, 0.7, 0.3, 0]  
    - value: 0.5  
dtype: bfloat16