🚀 Dark Sapling V2 7B - 32k上下文 - 超高质量 - 32位提升

Dark Sapling V2 7B是一款令人惊叹的模型，本项目基于其源文件进行了完全的重新合并和重制，拥有32k上下文，具备超高质量和32位提升的特性。它在创意写作、角色扮演、故事创作等领域都能发挥出色的作用。

🚀 快速开始

本项目是对令人惊叹的Dark Sapling V2 7B - 32k上下文模型从源文件进行的完全重新合并和重制。

✨ 主要特性

• 量化表现出色：在Q4KM量化下，令人印象深刻地降低了320分（分数越低越好）。这使得“Q4KM”的运行水平达到了“Q6”级别，同时也进一步提升了Q6和Q8的表现。即便最小的量化Q2K，其运行水平也比原始版本有了大幅提升。
• 性能卓越：在指令遵循、推理、深度、细微差别和情感表达方面表现卓越。由于能更好地理解细微差别，减少了提示词的大小，并且由于提示词大小的减少，输出可利用的上下文更多。
• 量化差异显著：不同量化之间的差异在创意和/或“没有正确答案”的用例中尤为明显。因此，建议下载你能够运行的最高量化版本以及与之接近的版本，例如Q4KS、Q4KM、Q5KS。

🔧 技术细节

• 版本信息：版本1和版本1.1也进行了重制。Imatrix Plus版本将很快在单独的仓库中上传。
• 高质量设置与操作指南：本模型属于“1类”。有关该模型使用的所有设置（包括其“类别”的具体设置），包括示例生成以及高级设置指南（很多时候可以解决任何模型问题），以及提高所有用例（包括聊天、角色扮演和其他用例）模型性能的方法，请参考：[ https://huggingface.co/DavidAU/Maximizing-Model-Performance-All-Quants-Types-And-Full-Precision-by-Samplers_Parameters ]

📄 许可证

本项目采用Apache-2.0许可证。

特别致谢

特别感谢原始模型创建者“TEEZEE”：[ https://huggingface.co/TeeZee/DarkSapling-7B-v2.0 ]