🚀 大语言模型合并项目

本项目将 huggyllama/llama-30b 与 kaiokendev/SuperCOT-LoRA 进行合并。SuperCOT 经过训练，可与 LangChain 提示配合使用。

你可以在自定义的大语言模型笔记本中本地加载该模型，此笔记本使用 Oobabooga 模块来加载模型：Local-LLM-Langchain。之后，你可以从其他笔记本中添加单元格进行测试：langchain-tutorials。

🚀 快速开始

本项目是两个大语言模型的合并成果，SuperCOT 支持与 LangChain 提示协同工作。你可以按以下步骤进行操作：

1. 在自定义的大语言模型笔记本中本地加载模型，该笔记本使用 Oobabooga 模块加载模型，链接为：Local-LLM-Langchain。
2. 从其他笔记本添加单元格进行测试，链接为：langchain-tutorials。

📚 详细文档

兼容性

此 LoRA 与任何 7B、13B 或 30B 的 4 位量化 LLaMa 模型兼容，包括经过 ggml 量化转换的二进制文件。

提示方式

你应该以提示 Alpaca 或 Alpacino 的相同方式来提示此 LoRA：

以下是描述任务的指令，以及提供更多上下文的输入。请编写一个响应以适当完成请求。

### 指令:
<指令内容>

### 输入:
<任何额外的上下文。如果不需要，请删除此项>

### 响应:
<确保在此处留一个空行以获得最佳结果>

请记住，在参数规模较小时，提示的结构变得更加重要。同样的提示，表述方式不同可能会得出截然不同的答案。你可以考虑使用以下建议后缀来提高输出质量：

• "逐步思考这个问题"
• "让我们从逻辑上思考这个问题"
• "解释你的推理过程"
• "提供细节来支持你的答案"
• "将你的答案与其他选项进行比较和对比"

即将推出

• 针对 13B 和 7B 模型的推文修复 - 较小规模的模型似乎对训练数据响应末尾的话题标签极为敏感，尤其是在较长的截断长度下。