基础模型:

• inflatebot/MN-12B-Mag-Mell-R1
• TheDrummer/UnslopNemo-12B-v4.1 库名称: transformers 标签:
• mergekit
• 合并
• 12b
• 聊天
• 角色扮演
• 创意写作
• SLERP 许可证: apache-2.0 新版本: redrix/patricide-12B-Unslop-Mell-v2

patricide-12B-Unslop-Mell

父辈的罪孽不应以这种方式重演。

这是使用mergekit工具合并预训练语言模型的成果。

作为我的首次模型合并尝试——我至今仍不清楚配置参数的实际运作原理。（更新：现已掌握）若有更详尽的合并指南，恳请不吝赐教。我也渴望深入了解背后的科学原理。

鉴于两个原始模型都能产出令人满意的结果，我决定将它们融合，期望能继承双方优势。（更新：初期测试显示模型具有良好连贯性，但偶现无意义乱码或生造词现象，可能源于分词器故障）

我已在Q6_K GGUF量化版本上进行测试，结果令人满意故决定发布。虽未深入测试故事创作和角色扮演场景，但其表现稳定且至少保持逻辑连贯。测试参数为温度值1（最终温度）和最小概率0.1。尚不清楚DRY或XTC参数对输出稳定性的影响，也未测试高上下文长度表现。两个父模型均采用ChatML模板，不过Unslop-Nemo同时兼容Metharme/Pygmalion模板，暂未测试孰优孰劣。（更新：mergekit已支持模板定义功能，后续模型将强制使用ChatML以保持统一标准）

欢迎自由实验，毕竟我也在探索阶段。

更新：待我能直接运行新模型而无需过度调整采样器/参数/文本模板等配置后，将陆续发布后续作品。参照DavidAU的方法的全面测试将后续进行，以便在开发新模型同时收集更多反馈。我的目标是打造基础状态就表现优异的模型，采样器仅作为锦上添花的工具。因此除非模型基础素质出众，否则不会在采样器调优上耗费过多时间。

量化版本

静态GGUF量化文件位于：

• redrix/patricide-12B-Unslop-Mell-GGUF（量化类型少于下方⬇️）
• mradermacher/patricide-12B-Unslop-Mell-GGUF（感谢♥️）

加权/ImatrixGGUF量化文件位于mradermacher/patricide-12B-Unslop-Mell-i1-GGUF。

合并详情

合并方法

本模型采用SLERP融合法合并。

参与合并的模型

合并包含以下模型：

• inflatebot/MN-12B-Mag-Mell-R1
• TheDrummer/UnslopNemo-12B-v4.1

配置参数

生成本模型的YAML配置如下：

models:
  - model: TheDrummer/UnslopNemo-12B-v4.1
  - model: inflatebot/MN-12B-Mag-Mell-R1
merge_method: slerp
base_model: TheDrummer/UnslopNemo-12B-v4.1
dtype: bfloat16
parameters:
  t: [0, 0.5, 1, 0.5, 0]

封面艺术由本人使用Photoshop亲手创作...我从不使用AI生成此类内容。