基础模型:

• tavtav/eros-7b-test
• ChaoticNeutrals/Eris-Lelantacles-7b 库名称: transformers 标签:
• mergekit
• 合并

该模型采用SLERP合并方法进行融合。

合并模型

合并过程中包含以下模型：

• tavtav/eros-7b-test
• ChaoticNeutrals/Eris-Lelanacles-7b

配置参数

生成该模型所使用的YAML配置如下：

切片:
  - 源模型:
      - 模型: ChaoticNeutrals/Eris-Lelanacles-7b
        层级范围: [0, 32]
      - 模型: tavtav/eros-7b-test
        层级范围: [0, 32]
合并方法: slerp
基础模型: ChaoticNeutrals/Eris-Lelanacles-7b
参数:
  t:
    - 过滤器: self_attn
      取值: [0, 0.5, 0.3, 0.7, 1]
    - 过滤器: mlp
      取值: [1, 0.5, 0.7, 0.3, 0]
    - 取值: 0.5
数据类型: bfloat16