🚀 SAINEMO-reMIX

SAINEMO-reMIX 是一个使用 mergekit 合并预训练语言模型得到的模型，支持俄语和英语，适用于角色扮演等场景。

🚀 快速开始

GGUF 资源

• thx team mradermacher：SAINEMO-reMIX-GGUF
• GGUF imatrix：SAINEMO-reMIX-i1-GGUF

排行榜

预设

给定的预设非常适合此模型，可参考 这里 的预设。

采样器

Temp - 0,7 - 1,2 ~
TopA - 0,1
DRY - 0,8 1,75 2 0
建议尝试 SillyTavern 的默认预设，例如 simple-1。

✨ 主要特性

• 多模型融合：融合了多个预训练语言模型，包括 IlyaGusev/saiga_nemo_12b、elinas/Chronos-Gold-12B-1.0 等。
• 多语言支持：支持俄语和英语。
• 适合角色扮演：适用于角色扮演（RP）场景。

🔧 技术细节

合并详情

合并方法

此模型使用 della_linear 合并方法，以 E:\Programs\TextGen\text-generation-webui\models\IlyaGusev_saiga_nemo_12b 为基础进行合并。

合并的模型

• E:\Programs\TextGen\text-generation-webui\models\elinas_Chronos-Gold-12B-1.0
• E:\Programs\TextGen\text-generation-webui\models\Vikhrmodels_Vikhr-Nemo-12B-Instruct-R-21-09-24
• E:\Programs\TextGen\text-generation-webui\models\MarinaraSpaghetti_NemoMix-Unleashed-12B

配置

以下是用于生成此模型的 YAML 配置：

models:
  - model: E:\Programs\TextGen\text-generation-webui\models\IlyaGusev_saiga_nemo_12b
    parameters:
      weight: 0.55  # 主要侧重于俄语
      density: 0.4
  - model: E:\Programs\TextGen\text-generation-webui\models\MarinaraSpaghetti_NemoMix-Unleashed-12B
    parameters:
      weight: 0.2  # 角色扮演模型，由于侧重于英语，权重稍小
      density: 0.4
  - model: E:\Programs\TextGen\text-generation-webui\models\elinas_Chronos-Gold-12B-1.0
    parameters:
      weight: 0.15  # 第二个角色扮演模型
      density: 0.4
  - model: E:\Programs\TextGen\text-generation-webui\models\Vikhrmodels_Vikhr-Nemo-12B-Instruct-R-21-09-24
    parameters:
      weight: 0.25  # 俄语支持和平衡
      density: 0.4

merge_method: della_linear
base_model: E:\Programs\TextGen\text-generation-webui\models\IlyaGusev_saiga_nemo_12b
parameters:
  epsilon: 0.05
  lambda: 1
dtype: float16
tokenizer_source: base

📄 信息表格