AIbase

M

Mistral Small 3.1 24B Instruct 2503 HF Imat GGUF

由 qwp4w3hyb 开发
基于Mistral架构的24B参数指令微调模型，适用于文本生成任务
大型语言模型开源协议:Apache-2.0#高精度文本生成#多层级量化优化#指令微调专用
下载量 2,573
发布时间 : 3/18/2025
模型介绍
内容详情
替代品

模型简介

这是一个24B参数规模的大型语言模型，专门针对指令跟随任务进行了优化，适用于对话系统和文本生成应用

模型特点

高效量化支持
支持多种量化格式（IQ4_XS、Q4_K_M等），便于不同硬件部署
指令优化
专门针对指令跟随任务进行微调，适合对话交互场景
轻量级部署
通过imatrix工具进行bf16格式量化，降低部署资源需求

模型能力

文本生成
指令理解与执行
对话系统构建

使用案例

对话系统
智能客服
构建能理解复杂用户查询的客服对话系统
内容生成
创意写作辅助
帮助作者生成故事创意和文本内容