M

Magtie V1 12B

由 grimjim 开发
MagTie-v1-12B是一个基于DARE TIES算法合并的12B参数语言模型,融合了多个预训练模型的优势
下载量 32
发布时间 : 5/3/2025
模型介绍
内容详情
替代品

模型简介

该模型通过合并多个12B参数规模的预训练模型,旨在保留各贡献模型的优秀特征,适用于文本生成任务

模型特点

多模型合并
采用DARE TIES算法合并多个12B参数模型,保留各模型优势特征
权重优化
通过调整权重和密度参数(0.85/0.75)优化模型性能
预训练基础
基于Mistral-Nemo-2407基础模型构建

模型能力

文本生成
语言理解

使用案例

内容创作
创意写作
生成故事、诗歌等创意文本
对话系统
智能聊天机器人
构建自然流畅的对话系统