这是一个通过mergekit合并多个预训练语言模型得到的专家混合模型，旨在创造最不受约束的文本生成能力。

基于3个Mistral架构模型的专家混合大语言模型，擅长对话、代码和数学任务

WizardLM-2 8x22B是微软WizardLM团队开发的最先进专家混合(MoE)模型，在复杂对话、多语言、推理和代理任务上性能显著提升。

WizardLM-2 8x22B 是微软AI开发的下一代最先进大语言模型，采用专家混合（MoE）架构，在复杂对话、多语言、推理和智能体任务上表现优异。

Zephyr 141B-A39B是基于Mixtral-8x22B-v0.1微调的大型语言模型，采用ORPO对齐算法训练，旨在成为有用的助手。