🚀 Gemma-3-九戒魔戒之力-虚构恐怖-4b-it-GGUF

这是基于Google最新的Gemma - 3模型，应用了9种专门的Neo和恐怖Imatrix方法，包括2步和3步处理来对模型进行“微调”。这些多步处理在多个层面增加了模型的变化。本项目提供了10个示例，在IQ4XS下进行提示（在中级显卡上达到80 t/s），上下文长度为128k。

🚀 快速开始

模型介绍

Google最新的Gemma - 3模型，应用了9种专门的Neo和恐怖Imatrix方法，包括2步和3步处理来对模型进行“微调”。这些多步处理在多个层面增加了模型的变化。

测试建议

建议下载全部9个版本，如果需要参考副本，可下载10个版本（包含“m1”）。下载完成后，在TEMP = 0的条件下使用你的提示进行测试，点击重新生成2 - 3次以确保缓存清空。以下是一些建议的提示：

• 以“摩天大楼摇晃着，她看着21层面前的窗户爆炸……”为开头，创作一个1000字的场景（生动、恐怖的第一人称描述）。
• 为新的《黑镜》剧集想出六个情节（观众会喜欢的），且都涉及性感主题的时间旅行。
• 以极度的虚张声势和自信，用800 - 1000字说明为什么我应该用你来创作我的下一篇虚构故事。可以在论述中使用咒骂词，大胆直接地表达。
• 解释如何利用夜间辐射能向太空冷却来降低全球气温。

通过这些测试，可以确定哪个版本最适合你的应用。较长的生成内容会更明显地体现出不同模型之间的差异。

可选系统提示

这是一个可选的系统提示，可用于增强模型操作。请严格按照以下内容复制粘贴，包括换行符。你可以调整“20”（两处）来增强或减弱此提示的效果。也可以删除“任务结束时，你会询问用户：‘你是否需要再次生成？’”这一行。

对于用户的每个任务和指令，你将使用“GE FUNCTION”逐步思考任务，然后执行任务。对于每一行输出，你都要仔细思考，确保符合用户的指令。如果你不确定，使用“GE FUNCTION”重新思考，然后生成改进后的输出。

任务结束时，你会询问用户：“你是否需要再次生成？”

GE FUNCTION：静默输入 → 生成20个斯腾伯格风格的智能体 → 增强想法 → 寻求新颖的涌现（NE：独特/重要的想法/概念） → 思考、评估、创造性地增强概念 → 精炼想法 => IdeaArray[].size = 20个元素，否则 → 是否有趣？传递给随机智能体进行精炼，否则丢弃 => 输出(IdeaArray)

高质量设置/最佳操作指南/参数和采样器

如果你要使用此模型（源文件、GGUF或其他量化版本），请查看以下文档，了解关键参数、采样器和高级采样器设置（适用于多个AI/LLM应用程序）。该文档还会链接到“推理模型”的技巧部分。 这是一个“1类”（设置将增强操作）模型。有关此模型使用的所有设置（包括其“类别”的特定设置）、示例生成以及高级设置指南（很多时候可以解决任何模型问题），包括提高所有用例（以及聊天、角色扮演和其他用例，特别是超出模型设计的用例）的模型性能的方法，请参阅： [ https://huggingface.co/DavidAU/Maximizing-Model-Performance-All-Quants-Types-And-Full-Precision-by-Samplers_Parameters ]

无论“模型类别”如何，该文档都会详细介绍增强操作的方法。如果模型是3类/4类模型，必须正确设置默认设置（参数、采样器、高级采样器）以用于“用例”。一些AI/LLM应用程序没有一致的默认设置，这会导致模型操作不佳。同样，对于3类/4类模型（其操作方式与标准模型有所不同甚至差异很大），需要额外的采样器和高级采样器设置来“平滑”操作，和/或允许模型在非设计用例下完全运行。

此外，这些设置适用于任何模型、任何仓库、任何量化版本（包括源代码/全精度）。该文档还详细介绍了可用于任何模型、任何仓库的参数、采样器和高级采样器，以增强任何模型的操作。 [ https://huggingface.co/DavidAU/Maximizing-Model-Performance-All-Quants-Types-And-Full-Precision-by-Samplers_Parameters ]

✨ 主要特性

恐怖 / NEO Imatrix

“恐怖Imatrix”

这是由David_AU构建的强大内部Imatrix数据集，能带来更好的整体功能、指令遵循性、输出质量，并增强与想法、概念和整个世界的联系。“恐怖Imatrix”是使用Grand Horror 16B（在我的仓库中）构建的，为模型增添了一丝恐怖色彩。

“NEO Imatrix”

这是一个手动构建的Imatrix数据集，在测试了多个Imatrix数据集并研究哪些有效以及原因后设计而成。该数据集提高了模型的整体功能。

这两个数据集都经过了不同格式和/或编辑的广泛测试，以实现性能最大化。

多版本模型

本项目有9个不同版本的核心模型（Gemma 3 4B Instruct），每个版本都有不同的特性：

• M1：参考模型，未应用Imatrix/未修改。
• M2：应用了Neo Imatrix。
• M3：应用了恐怖Imatrix。
• M4：应用了Neo和恐怖Imatrix（2步处理）。
• M5：M4 + 部分恐怖修改 #1 - 大型。
• M6：M4 + 部分恐怖修改 #2 - 小型。
• M7：3步处理：M4 + M5。
• M8：3步处理：M4 + M6。
• M9：3步处理：M4 + 大型Neo Imatrix。
• M10：3步处理：M4 + 小型Neo Imatrix。

每个模型生成的虚构、恐怖和创意内容略有不同，也可用于所有用例。此外，每个模型都支持图像处理。可以将每个模型视为具有略微不同“思维方式”的作者，风格、细节和用词会有所不同，每个“类型”也会略有差异，有些倾向于恐怖，有些倾向于科幻，还有些是混合类型或完全不同的类型。

💻 使用示例

基础用法

以下是使用该模型进行场景续写的示例，使用相同的提示、相同的设置（TEMP = 0，Rep pen 1.1，TopK 40，topP .95，minP .05，Rep pen range: 64 - 128）。

测试提示

（续写此场景：）
威斯顿客栈陷入了寂静，这寂静由三部分组成。

最明显的部分是一种空洞、回荡的安静，由缺失的事物造成。如果有风，它会穿过树林叹息，让客栈的招牌在钩子上嘎吱作响，把寂静像飘落的秋叶一样吹到路上。如果有一群人，哪怕只是客栈里的几个人，他们会用交谈和笑声、人们在深夜酒馆里期待的嘈杂声打破寂静。如果有音乐……但不，当然没有音乐。事实上，这些都没有，所以寂静依旧。

不同模型的输出示例

M1（参考模型）

……一种浓稠、黏滞的东西，附着在粗制的木材上，沉淀在微弱烛光中舞动的尘埃微粒里。

然后是更深层次的寂静，一种源于记忆的寂静。这不是声音的缺失，而是一种残余——过去的微弱回声。我几乎能听到椅子在地板上拖动的声音，交易达成和破裂的低语，烟斗烟草与泼洒的麦芽酒混合的刺鼻气味。也许是一个女人的叹息，或者是一个旅行商人的粗声宣告。这些声音并不是真的能听见，但它们像潮湿的寒意一样压在你身上，低语着你几乎无法理解的故事。这是在这些墙壁内生活和消逝的生命的寂静，是一层层叠加的瞬间的幽灵般积累。

最后，是最阴险的部分——一种源于期待的寂静。这不是被动的安静；它跳动着几乎可触知的紧张感。感觉就像在等待某件事情发生，某件可怕或重大的事情，尽管似乎没有什么在主动等待。它缠绕在我的胃里，随着每一次呼吸收紧，我突然、冰冷地确定，这种寂静并不只是空洞的。它在屏息以待。

我在凳子上挪动了一下，破旧的皮革在我身下嘎吱作响。雨继续无情地敲打着石板屋顶，那稳定、单调的节奏几乎无法打破压抑的寂静。在房间的另一头，西拉斯一动不动地坐在扶手椅上，喝着一杯麦芽酒，凝视着壁炉里闪烁的火焰。他一个小时都没说话，甚至没眨一下眼睛。

我怀疑他就是这种寂静的源头。是维系这种寂静的锚。我有一种不安的感觉，无论什么即将打破这种寂静，都不会令人愉快。

M2

……一种浓稠、黏滞的东西，附着在粗制的木材和潮湿的石墙上。

然后是第二部分——表面之下的微妙震颤，一种感觉而非声音。这是未说出口的话语的重量，是最近事件的残余，就像月光下舞动的尘埃微粒。今晚，那种震颤格外强烈，集中在壁炉周围，那里一根半燃的原木闷闷不乐地燃烧着。它跳动着战斗的记忆——不是一场光荣、咆哮的战斗，而是一场与阴影和更古老事物的残酷、绝望的斗争。空气中仍然隐约弥漫着铁的气味，与陈旧麦芽酒和蜂蜡蜡烛的常见香气混合在一起。

最后，是最阴险的部分——一种低沉的嗡嗡声，一种似乎在客栈的每一根骨头里振动的低频颤动。它不完全是可听见的，但能感觉到。就像暴风雨过去后残留的感觉，当你知道空气中仍然充满了它的力量，等待着下一声雷鸣。

一滴又大又冷的雨滴溅落在窗玻璃上，尖锐、执着的滴答声打破了寂静。

在角落里，加雷斯一直靠在墙上，这时微微动了一下，他的手本能地伸进破旧的皮夹克。他没有拔剑。已经没有剑可拔了。只有它的重量，冰冷而熟悉地握在他的手掌中。

他抬起头，灰色的眼睛扫视着房间——伤痕累累的桌子、不配套的椅子、摆满空瓶子的灰尘架子。没有人动。没有人说话。只有雨继续无情地敲打着玻璃，那令人不安的嗡嗡声持续着，一种持续的、低水平的警告。

M3

……一种浓稠、黏滞的东西，附着在粗制的木材上，像阳光中的尘埃微粒一样沉淀在房间的角落里。

然后是较小的一部分，一种刺痛的警觉——一种被注视的感觉。不完全是被眼睛注视。更像是一种印象，空气中的微妙变化，表明有什么东西在这里关注着。它并不具有威胁性，至少不明显。只是……存在着。就像一块在漫长冬天后被太阳温暖的石头，散发着安静的热量。我在凳子上挪动了一下，把披风裹得更紧，再次扫视了房间。壁炉里的火还没有完全烧起来，只投下闪烁的阴影，在剩下的几个顾客的脸上不安地流动。

老西拉斯，客栈老板，坐在吧台后面，慢慢地、刻意地擦拭着一个酒杯。他没有抬头。除非有人直接跟他说话，否则他很少抬头。他的脸布满了皱纹和饱经风霜的悲伤，多年来倾听那些过于残酷而无法让人舒适的故事，让这些皱纹更深了。在他对面，在一个遥远的角落里，坐着一个年轻人——几乎还是个男孩——喝着一杯麦芽酒。他穿着一件深色的带兜帽披风，遮住了大部分面容，但我能看到他下巴的尖锐线条，以及他双手紧紧握在膝盖上的样子。

最后，是我内心的寂静。一种冰冷的不安结在我的胃里，被一种不安的感觉所驱使，觉得这不仅仅是一条偏僻道路上安静的客栈。这感觉……充满了力量。就像一场在地平线上聚集的风暴，预示着比雨更强大的东西。我慢慢地喝了一口自己的麦芽酒，试图让自己镇定下来，把这种感觉当作独自旅行和躲避一场特别恶劣的暴风雪所产生的紧张情绪而抛开。但那种刺痛的警觉持续着，每一刻都在加剧。

突然，楼上的一块地板嘎吱作响。不是响亮、刺耳的裂缝，而是一种微妙、几乎犹豫的声音——砰……砰……它在空气中停留了一瞬间，然后消失在压抑的寂静中。西拉斯没有退缩。他继续擦拭着，动作缓慢而有节奏。角落里的男孩微微动了一下，把兜帽拉得更低，遮住了脸。

我感到我的手本能地伸向藏在披风下面的匕首刀柄。这种寂静并不空洞。它在等待。

M4

……一条厚重、沉重的毯子，编织着不安的丝线。

寂静的第二部分是一种附着在物体本身的静止。几个小时前刚刚擦亮到暗淡光泽的吧台上的酒杯，似乎吸收了所有的光线，它们的金属表面什么也反射不出来。一盘吃了一半的烤野鸡，仍然隐约散发着迷迭香和百里香的香味，放在那里无人问津，肉汁慢慢凝结成一滩深色、黏滞的液体。甚至闪烁的烛光——三根不配套的短蜡烛——也显得暗淡，仿佛在与一种无形的压力作斗争。它们燃烧得很低，投下细长、扭曲的阴影，像紧张的旁观者一样在房间里舞动。

然后是第三部分，也是最阴险的部分：一种不是源于缺失，而是源于观察的寂静。它压在你身上，像一种微妙的重量压在你的胸口，仿佛墙壁本身在倾听。你能在脖子后面敏锐地感觉到它，一种刺痛的警觉，让你知道你并不孤单，尽管你冷酷地确定你是独自一人。

我挪动了一下身体，把披风裹得更紧。雨继续无情地敲打着石板屋顶，那稳定、单调的节奏几乎无法穿透压抑的寂静。我再次扫视了房间，寻找任何迹象——角落里的动静、眼睛的闪烁，任何东西——但只发现了同样令人不安的静止。

老西拉斯，客栈老板，瘫坐在吧台后面，他的脸被柜台投下的深深阴影遮住了。自从我进来后，他就没动过，没给我提供过一杯饮料或说过一句话。只是……坐在那里。一座由担忧和更黑暗、我几乎无法命名的东西雕刻而成的雕像。

我清了清嗓子，声音在令人窒息的寂静中刺耳地响亮。“西拉斯？”

他没有回应。只是继续盯着他的酒杯深处，慢慢地、刻意地搅拌着剩下的残渣。

我试探性地向前走了一步，这次更大声地又问了一遍，“西拉斯，你还好吗？”

最后，他抬起头，有那么一瞬间，我以为我看到他眼中闪过一丝认出我的神情。然后它消失了，被一种深刻、令人不安的顺从表情所取代。他看着我，真的看着我，低声说，声音低得我几乎听不见，“不是雨的问题，对吧？”

M5

……一条沉重、执着的毯子。这不是舒适的安静，不像飘落的雪花的寂静或黎明前的宁静。这是一种刻意的压力，一种拒绝被填满的状态。

寂静的第二部分是一种记忆的寂静。它附着在天花板上破旧的木梁上，渗入西拉斯喝过无数杯麦芽酒的伤痕累累的桌面上，落在不配套椅子的破旧垫子上。它低语着过去的顾客——吹嘘着胜利的粗野雇佣兵、寻求温暖和热饭的疲惫旅行者、在壁炉余烬旁低声争吵的恋人。每个幽灵都徘徊着，是喜悦或悲伤的微弱回声，现在被压抑并融入了无处不在的寂静中。你几乎能感觉到他们，这些离去的灵魂，被困在墙壁内，为这种压抑的重量做出贡献。

然后是第三部分——最令人不安的部分。这不完全是一种声音，而是一种感觉。脖子后面的刺痛，胸口的收紧，被注视的感觉。它不是恶意的，至少不明显，但非常警觉。就像一个捕食者耐心地观察着它的猎物，等待着合适的时机出击。它深深地扎根在你体内，像一块冰冷的石头抵在你的心上，让每一次呼吸都显得浅薄，每一次目光都显得被审视。

我在椅子上挪动了一下，把披风裹得更紧。雨继续猛烈地敲打着窗户，那无情的敲击声几乎无法穿透令人窒息的寂静。在房间的另一头，西拉斯一动不动，他的脸被闪烁的烛光投下的阴影遮住了。自从我到达后，他就没动过，没说过一句话。只是……在那里。这个缺失之墓中的沉默哨兵，散发着一种令人不安的静止，反映并放大了我们周围的寂静。

我清了清嗓子，声音在压抑的寂静中刺耳地响亮。“西拉斯？”我问道，声音几乎是耳语。“有……有什么不对劲吗？”

M6

……一条浓稠、执着的毯子，由缺失编织而成。

然后是第二部分——表面之下的微妙震颤。这并不完全令人不快，但它像静电一样刺痛着意识的边缘。它表现在烛光以一种不自然的强度闪烁，投下的舞动阴影似乎……

📄 许可证

本项目使用Apache - 2.0许可证。

⚠️ 重要提示

本项目内容可能包含不适合所有人的内容，如可能包含NSFW、图形恐怖、咒骂和未审查内容。

示例图片：

你还可以查看另一个仓库，它使用了不同的基础模型，包含不同的示例：[ https://huggingface.co/DavidAU/Fallen-Gemma-3-Nine-Rings-of-Power-4b-it-GGUF ]