许可证：其他 语言：

• 英语

MythoMist 7b 一如既往，是一个基于 Mistral 的高度实验性合并模型，采用了我最新的算法。该算法在模型构建过程中会主动进行基准测试，以实现用户设定的目标。

补充说明（2023-11-23）：经过更深入的调查，我发现原始算法中存在一个缺陷，现已修复。我曾考虑删除这个模型，因为它未能完全实现最初的目标，但由于有许多用户喜欢它，我决定保留。请密切关注我的 MergeMonster 仓库，以获取更多进展和由 Merge Monster 生成的合并模型发布信息。

MythoMist 的主要目的是减少使用“anticipation”、“ministrations”等词汇及其变体，这些词汇在 ChatGPT 角色扮演数据中常被负面关联。该算法无法完全禁止这些词汇，但会尽力减少其使用频率。

脚本现已在我的 GitHub 上发布。警告：需要大量显存。

量化模型由 TheBloke 提供：GGUF - GPTQ - AWQ（你是最棒的！）

最终合并构成

在处理了 12 个模型后，我的算法得出了以下（近似）最终构成：

这些模型在合并过程中并没有严格的逻辑划分——每个模型的小部分内容被提取出来，然后与其他模型逐层混合，采用了类似于我的 MythoMax 配方的方式，即底层张量以交叉方式混合。

这个新流程仅决定模型的层结构，而不涉及对模型输出影响较大的单一 lm_head 和 embed_tokens 层。我为此运行了一个单独的脚本，选择了能生成长度最长响应的单一张量，最终确定为 Toppy-M-7B。

提示格式

由于本次合并中使用的提示格式差异较大，出于兼容性考虑，我（目前）推荐使用 Alpaca 作为提示模板：

### 指令：
你的指令或问题在此。

### 响应：

许可证：其他