M

Mixtral 8x7B V0.1 GGUF

由 MaziyarPanahi 开发
Mixtral-8x7B-v0.1的GGUF量化版本,支持多种比特量化,适用于文本生成任务。
下载量 128
发布时间 : 2/3/2024

模型简介

该模型是Mixtral-8x7B-v0.1的GGUF格式量化版本,支持2比特至8比特的多种量化选项,适用于多语言文本生成任务。

模型特点

多比特量化支持
支持2比特至8比特的多种量化选项,适用于不同硬件资源需求。
多语言支持
支持法语、意大利语、德语、西班牙语和英语等多种语言的文本生成。
混合专家架构
采用混合专家(MoE)架构,提升模型性能和效率。

模型能力

文本生成
多语言支持
量化推理

使用案例

文本生成
多语言文本生成
生成法语、意大利语、德语、西班牙语和英语的文本内容。
故事写作
辅助创作故事或其他文学内容。
AIbase
智启未来,您的人工智能解决方案智库
简体中文