许可证：Apache-2.0
语言：

• 英文

警告

此模型文件仅用于评估。请使用以下模型：

• 模型：Pandora-v1-13B
• GGUF格式：Pandora-v1-13B-GGUF

Jan - Discord

模型描述

本模型采用passthrough融合方法，结合了OpenLLM排行榜中表现最佳的7B模型：

1. viethq188/LeoScorpius-7B-Chat-DPO
2. GreenNode/GreenNodeLM-7B-v1olet

模型配置的yaml文件如下：

slices:  
  - sources:  
    - model: "viethq188/LeoScorpius-7B-Chat-DPO"  
      layer_range: [0, 24]  
  - sources:  
    - model: "GreenNode/GreenNodeLM-7B-v1olet"  
      layer_range: [8, 32]  
merge_method: passthrough  
dtype: bfloat16  

提示模板

• ChatML

<|im_start|>system  
{系统消息}<|im_end|>  
<|im_start|>user  
{提示}<|im_end|>  
<|im_start|>assistant  

运行此模型

您可以通过Jan在Mac、Windows或Linux上运行此模型。

Jan是一个开源的ChatGPT替代方案，具有以下特点：

💻 完全离线运行：您的对话内容完全保密，仅您可见。

🗂️ 开放文件格式：对话记录和模型设置保存在您的电脑上，可随时导出或删除。

🌐 兼容OpenAI：本地服务器运行在1337端口，提供与OpenAI兼容的API端点。

🌍 开源且免费：我们在公开环境中开发，欢迎访问我们的GitHub。

• 在Jan上使用时，请使用Pandora-v1-13B-GGUF。

关于Jan

Jan致力于构建开源AI生态系统，通过基础设施和工具开发，使开源AI能够与专有AI公平竞争。

Jan的长期愿景是为未来的机器人构建认知框架，使其成为人类和企业在日常生活中的实用助手。

Jan模型融合器

这是一个用于测试模型融合的项目。

Open LLM排行榜评估结果

详细结果请参见此处。

致谢

• mergekit
• DARE
• SLERP
• lm-evaluation-harness