基础模型:

• Steelskull/L3.3-Electra-R1-70b
• Nexesenex/Llama_3.x_70b_SmarTracks_V1.01
• NexesMess/Llama_3.3_70b_DoppelGanger_R1
• nbeerbower/Llama3.1-Gutenberg-Doppel-70B
• NexesMess/Llama_3.1_70b_Priestess_V1
• migtissera/Tess-3-Llama-3.1-70B 库名称: transformers 标签:
• mergekit
• merge

简介

Hexagon Purple V2的基础模型Smartracks保持不变，是一个包含Deepseek Distill R1（三种变体）、Nemotron和Tulu能力的"三级"标准合并模型。

Hexagon Purple V2与V1版本的主要区别如下：

• 用Steelskull的Electra R1替换了Black-Ink-Guild的Perniscious Prophecy，因为表现更优（70Blivion功能通过其他方式保留）
• 采用Priestess标准合并替代Hostess版本，在保留Tess R1和Llama Creative Writer的基础上，引入70Blivision并移除了Lumitron合并
• 原先独立存在的Dobby、Wayfarer和Drummer's Fallen Llama R1（已存在于Smartracks的子合并及当前Electra R1中）被这三者的标准合并模型DoppelGanger R1取代
• 新增Nbeerbower的Doppel Gutemberg作为3.1指令（及小说写作）稳定器，与后续模型协同工作
• 加入Miguel Tissera的Tess 3.0 70B 3.1作为复杂度降低模块

与往常一样，只要存在abliterated和lorablated技术（感谢Huihui-ai、Maxime Labonne及Failspy）就会系统化应用，其余情况则重点保持极低审查度。

基准测试

本次合并同样以创造力换取基准分数，但相比V1有明显进步：

• 英文维基文本PPL（512长度）：3.43（优秀）
• ARC-C：60.55（优秀）
• ARC-E：81.05（同样优秀）

合并说明

本模型使用mergekit工具合并预训练语言模型。

合并详情

合并方法

采用模型库存合并法，以Nexesenex/Llama_3.x_70b_SmarTracks_V1.01为基础模型。

参与合并的模型

包含以下模型：

• Steelskull/L3.3-Electra-R1-70b
• NexesMess/Llama_3.3_70b_DoppelGanger_R1
• nbeerbower/Llama3.1-Gutenberg-Doppel-70B
• NexesMess/Llama_3.1_70b_Priestess_V1
• migtissera/Tess-3-Llama-3.1-70B

配置参数

生成本模型的YAML配置如下：

合并方法: model_stock
模型列表:
  - 模型: migtissera/Tess-3-Llama-3.1-70B
    参数:
      权重: 1.0
  - 模型: nbeerbower/Llama3.1-Gutenberg-Doppel-70B
    参数:
      权重: 1.0
  - 模型: NexesMess/Llama_3.1_70b_Priestess_V1
    参数:
      权重: 1.0
  - 模型: Steelskull/L3.3-Electra-R1-70b
    参数:
      权重: 1.0
  - 模型: NexesMess/Llama_3.3_70b_DoppelGanger_R1
    参数:
      权重: 1.0
基础模型: Nexesenex/Llama_3.x_70b_SmarTracks_V1.01
数据类型: bfloat16
输出类型: bfloat16
参数:
  int8掩码: 是
  标准化: 是
  重缩放: 否
对话模板: 自动
分词器:
  源: 联合