MN Nyx Chthonia 12B

由 mergekit-community 开发

这是一个基于多个12B参数规模模型的合并版本，采用model_stock方法融合了7个不同特性的预训练语言模型，以增强综合能力。

大型语言模型

Transformers

#多模型融合 #指令微调优化 #心理学推理增强

下载量 31

发布时间 : 4/25/2025

模型介绍

内容详情

替代品

模型简介

该模型通过合并多个专业领域的12B参数模型，旨在提升在推理、创作和心理分析等任务上的表现，特别优化了指令跟随能力。

模型特点

多模型知识融合

整合了Gutenberg文学、心理学推理、创意写作等不同专业领域的模型优势

指令优化

以Mistral-Nemo-Instruct为基础模型，强化了指令理解和执行能力

加权融合策略

对关键组件模型（如EtherealAurora和推理LoRA）采用差异化权重配置

模型能力

长文本生成

多轮对话

逻辑推理

创意写作

心理分析

指令理解

使用案例

创意辅助

故事创作

生成具有文学性的长篇幅叙事文本

结合Gutenberg和Lyra模型的文学风格

专业分析

心理评估

分析文本中的心理特征和认知模式

整合了专业心理学推理LoRA的能力

基础模型:

DavidAU/MN-GRAND-Gutenberg-Lyra4-Lyra-12B-DARKNESS
mistralai/Mistral-Nemo-Base-2407
mistralai/Mistral-Nemo-Instruct-2407
redrix/sororicide-12B-Farer-Mell-Unslop
mergekit-community/MN-Chthonia-12B
yamatazen/EtherealAurora-12B-v2
mergekit-community/MN-Anathema-12B
mergekit-community/MN-Ephemeros-12B
jtatman/mistral_nemo_12b_reasoning_psychology_lora 库名称: transformers 标签:
合并工具包
合并

合并模型

这是使用mergekit工具创建的预训练语言模型合并版本。

合并详情

合并方法

本模型采用模型库存合并方法，以mistralai/Mistral-Nemo-Instruct-2407作为基础模型进行融合。

参与合并的模型

合并包含以下模型：

配置参数

生成本模型所使用的YAML配置如下：

数据类型: float32
输出类型: bfloat16
合并方法: model_stock
基础模型: mistralai/Mistral-Nemo-Instruct-2407
模型列表:
  - 模型: DavidAU/MN-GRAND-Gutenberg-Lyra4-Lyra-12B-DARKNESS
  - 模型: mergekit-community/MN-Anathema-12B
  - 模型: mergekit-community/MN-Chthonia-12B
  - 模型: mergekit-community/MN-Ephemeros-12B+jtatman/mistral_nemo_12b_reasoning_psychology_lora
    参数:
      权重: 0.7
  - 模型: mistralai/Mistral-Nemo-Base-2407
    参数:
      权重: 0.5
  - 模型: redrix/sororicide-12B-Farer-Mell-Unslop
  - 模型: yamatazen/EtherealAurora-12B-v2
    参数:
      权重: 1.4

分词器:
  来源: 联合
  特殊标记:
    "<|im_start|>":
      来源: yamatazen/EtherealAurora-12B-v2
    "<|im_end|>":
      来源: yamatazen/EtherealAurora-12B-v2
    "[INST]":
      来源: mistralai/Mistral-Nemo-Instruct-2407
    "[/INST]":
      来源: mistralai/Mistral-Nemo-Instruct-2407
      
对话模板: chatml