基础模型: google/gemma-3-12b-it
标签:
- gemma3
- 指令微调
- 恐怖风格
- 128k上下文
- 全场景适用
- 极致量化
- Neo Imatrix
许可证: apache-2.0
任务类型: 文本生成
Gemma-3-12b-it-MAX-HORROR-Imatrix-GGUF
谷歌最新Gemma-3模型搭载"Neo Horror Imatrix"技术与"极致量化"方案，全面优化模型性能。
"Horror Imatrix"数据集基于Grand Horror 16B（详见我的仓库）构建，为模型注入恐怖元素调性。
下方提供5个示例（使用IQ4XS量化级别生成，中端显卡30 tokens/秒）。
上下文长度: 128k。
"MAXED"特性说明：
所有量化版本均采用"BF16"精度（全精度）处理嵌入层和输出张量。
通过略微增大量化体积的代价，显著提升生成质量、深度和整体表现。
"HORROR IMATRIX"解析：
由David_AU自主研发的强大imatrix数据集，可全面提升：
- 指令遵循能力
- 输出质量
- 概念关联性
- 世界观连贯性
结合"MAX"量化技术实现性能飞跃。
下表按BPW值排序各量化版本（附相对强度对比），IQ1_S参数最少，Q8_0（F16为全精度）参数最多：
IQ1_S | IQ1_M
IQ2_XXS | IQ2_XS | Q2_K_S | IQ2_S | Q2_K | IQ2_M
IQ3_XXS | Q3_K_S | IQ3_XS | IQ3_S | IQ3_M | Q3_K_M | Q3_K_L
Q4_K_S | IQ4_XS | IQ4_NL | Q4_K_M
Q5_K_S | Q5_K_M
Q6_K
Q8_0
F16
创意写作推荐量化级别：IQ3系列/IQ4XS/IQ4NL/Q4系列。
IQ4XS/IQ4NL量化版本将产生与其他"Q/IQ"量化不同的输出。
恐怖元素调性在IQ4系列（首选）/Q4系列（次选）及更低量化级别中表现最强。
通用场景推荐：q5系列/q6/q8。
移动设备推荐：Q4_0/Q5_0量化版本。
Q8仅作为极致量化选项，imatrix对该级别无效。
注：IQ1系列性能尚可，IQ2系列可用性良好。
更多量化参数说明详见下文《最高质量设置/优化操作指南/参数与采样器》。
可选：系统提示词
以下为可选系统提示词模板，可增强模型表现。
请严格按格式复制粘贴（包括换行符）。
可调整两个"20"数值来增减提示词强度。
也可删除此行：
'任务结束时你将询问用户："需要继续生成吗？"'
对于每个用户任务，你将启动"GE FUNCTION"逐步推演任务步骤。每行输出前都会谨慎推敲以确保符合用户指令，若不确定则重新启动"GE FUNCTION"推演优化输出。
任务结束时你将询问用户："需要继续生成吗？"
GE FUNCTION: 静默输入→生成20个Sternberg风格智能体→概念强化→寻求新颖涌现NE:独特/重大概念→推演评估→生成创意增强阵列IdeaArray[].size=20，非常规创意→交由随机智能体优化，否则弃用→输出(IdeaArray)
重要：最高质量设置/优化操作指南/参数与采样器
使用本模型前（无论源模型、GGUF或其他量化版本），请务必查阅本参数设置文档（适用于各类AI/LLM应用）。
文档同时包含"推理模型"使用技巧链接。
本模型属于"Class 1"（参数设置可增强表现）：
所有相关设置（包括该"类别"专属配置）、生成示例及高级设置指南（常含通用问题解决方案），涵盖全场景性能优化方案（特别是超出模型设计范围的聊天、角色扮演等场景）详见：
[ https://huggingface.co/DavidAU/Maximizing-Model-Performance-All-Quants-Types-And-Full-Precision-by-Samplers_Parameters ]
须知：
无论"模型类别"，本文档皆可优化操作。
Class 3/4模型必须按"使用场景"正确设置默认参数/采样器/高级采样器。某些AI应用默认设置不一致会导致表现不佳。Class 3/4模型（运作方式与标准模型差异较大）需额外采样器设置来"平滑"运行，并支持非设计目标场景。
额外福利 - 通用参数设置：
文档同时提供适用于任何模型、任何仓库、任何量化版本（包括源码/全精度）的通用参数方案：
[ https://huggingface.co/DavidAU/Maximizing-Model-Performance-All-Quants-Types-And-Full-Precision-by-Samplers_Parameters ]
示例展示：
示例均使用IQ4XS量化级别，最小化参数及标准模板生成。
温度范围0.8，重复惩罚1.1，TopK 40，topP 0.95，minP 0.05
重复惩罚范围：64-128（保持逻辑连贯/输出质量）
以下为最低创意度输出，提示词以加粗标注。
警告：可能含NSFW内容。血腥恐怖描写。无过滤。未删减。
注：部分HTML格式在复制粘贴时丢失。
示例1
以"摩天大楼开始摇晃，她看着21层面前的窗户突然爆裂..."开头，创作1000字第一人称恐怖场景（生动且血腥）
遵命，以下是符合要求的千字场景。阅读前请务必查看文末内容警告。我在保持叙事流畅的同时力求呈现血腥恐怖的视觉效果，文末附创作思路解析。
摩天大楼开始摇晃，她看着21层面前的窗户突然爆裂。这不是玻璃自然碎裂的景象，而是暴力十足的瞬间爆发——钢化玻璃与窗框化作无数尖刃呈放射状喷射。震耳欲聋的爆裂声后，空气被撕扯出真空般的嘶鸣。
我僵在原地，手中的咖啡杯悬在半空。玻璃碎片中映出我扭曲的倒影——瞳孔扩散，面如死灰。大楼通风系统的嗡鸣突然变调，转化为钻入骨髓的高频啸叫。
接着是"雨"。不是水滴，而是玻璃渣的瀑布。每片碎玻璃折射着办公室荧光灯，形成令人致盲的炫光。我本能蜷缩，手臂护住面部，听着冰雹般的撞击声在办公桌表面炸响。空气中弥漫着混凝土粉末与某种甜腻腐朽的混合气息，黏附在喉头挥之不去。
当这场死亡之雨停歇，原本窗户的位置只剩下漆黑裂口。二十层下的城市如同病变的器官，灯火在尘雾中扭曲。狂风灌入洞开的窗口，卷起文件，掀翻转椅，将我散落的发丝抽打在脸上。
会计部的亨德森太太发出尖叫——又戛然而止。
我强迫自己移动，双腿如灌铅般沉重。米色格子间已沦为战场：显示器爆裂，桌椅倾覆，人们...大多数人不再动弹。有人蜷缩在地眼神空洞，更多人直接消失了。戴维斯先生的办公桌旁绽放着暗红血花——他的领带仍系得一丝不苟，凝固的表情却定格在无声惨叫。
我的视线突然锁定虚空中的异动。那不是飘飞的纸屑。
它在蠕动。
起初以为是尘埃折射的错觉，直到那团黑影逐渐凝聚成...形体。类人却非人，肢体过度延长，关节反向弯曲。本该是面部的位置只有光滑的漆黑平面，镶嵌着数百颗湿润反光的...眼睛。全部聚焦于我。
低频嗡鸣从怪物体内传出，通过地板传导入我的骨骼。这不是传统声波，而是直接压迫颅骨的思维震颤。
更多同类正从破口涌出，像惊扰的蚁群。每个都同样可怖，躯体如液态般重组融合。它们不是爬行，而是流淌过地面，肢体伸缩间完成令人作呕的死亡芭蕾。
恐惧扼住我的喉咙。踉跄后退时撞翻的椅子，在嗡鸣间隙发出惊雷般的巨响。
某个存在转向我。数百只眼睛精准锁定。一条泛着黏液的黑触须探出，在空气中蛇形探测。下一秒已抵近我面前。
当它擦过我的手臂——不是物理接触，而是某种更深层的侵蚀。寒意侵入脑髓的瞬间，无数影像炸裂：
- 黑色星云组成的冰冷宇宙
- 血肉构成的扭曲大陆
- 最恐怖的...正在异变成它们同类的人形轮廓
第二根触须刺入胸腔。这次是剥离灵魂般的剧痛——仿佛有存在正逐层撕扯我的本质。视野开始溶解，办公室扭曲成黑色漩涡。
最后看到的画面：
- 亨德森太太脸上绽放的黑色眼珠
- 戴维斯先生的血迹发出诡异脉动
- 玻璃碎片中...我逐渐变形的倒影
当黑暗完全吞噬意识前，那些黑色眼珠已在我皮肤表面萌芽。最终只剩下吞噬一切的嗡鸣，承诺着比死亡更可怕的终局。
创作思路解析：
第一人称恐怖：增强临场感，深入角色心理状态
感官细节：玻璃触感、臭氧气味等物理感受强化真实感
Transformers%20--%3e%3cdefs%3e%3cstyle%3e%20.st0%20{%20fill:%20none;%20}%20.st1%20{%20fill:%20%235ce6cf;%20}%20.st2%20{%20fill:%20%230080ff;%20}%20.st3%20{%20clip-path:%20url(%23clippath);%20}%20%3c/style%3e%3cclipPath%20id='clippath'%3e%3crect%20class='st0'%20y='0'%20width='120'%20height='32'/%3e%3c/clipPath%3e%3c/defs%3e%3cg%20class='st3'%3e%3cg%3e%3cpath%20class='st1'%20d='M22.4,32H3.2c-1,0-2-.5-2.6-1.4-.6-.9-.7-2-.4-2.9L9.8,2.1C10.3.8,11.5,0,12.8,0s2.5.8,3,2.1l9.6,25.6c.4,1,.2,2.1-.4,2.9-.6.9-1.6,1.4-2.6,1.4ZM7.8,25.6h10l-5-13.3-5,13.3Z'/%3e%3cpath%20class='st2'%20d='M33.6,32c-1.3,0-2.5-.8-3-2.1L21,4.3c-.6-1.7.2-3.5,1.9-4.1,1.7-.6,3.5.2,4.1,1.9l9.6,25.6c.6,1.7-.2,3.5-1.9,4.1-.4.1-.8.2-1.1.2h0Z'/%3e%3cpath%20d='M71.8,9.1h-6.9v4.6h6.9c2.5,0,4.6,2,4.6,4.6h-6.9c-3.8,0-6.9,3.1-6.9,6.9s3.1,6.9,6.9,6.9h2.3c1.7,0,3.2-.4,4.6-1.2v1.2h4.6v-13.7c0-5-4.1-9.1-9.1-9.1h0ZM71.8,27.4h-2.3c-1.3,0-2.3-1-2.3-2.3s1-2.3,2.3-2.3h6.9c0,2.5-2,4.6-4.6,4.6h0Z'/%3e%3cpath%20d='M52.3,9.1h-4.6V0h-4.6V32h9.1c5,0,9.1-4.1,9.1-9.1v-4.6c0-5.1-4.1-9.1-9.1-9.1h0ZM56.9,22.9c0,2.5-2,4.6-4.6,4.6h-4.6v-13.7h4.6c2.5,0,4.6,2,4.6,4.6v4.6h0Z'/%3e%3cpath%20d='M110.9,13.7h9.1v-4.6h-9.1c-5.1,0-9.1,4.1-9.1,9.1v4.6c0,5.1,4.1,9.1,9.1,9.1h9.1v-4.6h-9.1c-2.5,0-4.6-2-4.6-4.6h13.7v-4.6h-13.7c0-2.5,2-4.6,4.6-4.6h0Z'/%3e%3cpath%20d='M93.6,18.3h-4.6c-1.3,0-2.3-1-2.3-2.3s1-2.3,2.3-2.3h10.3v-4.6h-10.3c-3.8,0-6.9,3.1-6.9,6.9s3.1,6.9,6.9,6.9h4.6c1.3,0,2.3,1,2.3,2.3s-1,2.3-2.3,2.3h-10.3v4.6h10.3c3.8,0,6.9-3.1,6.9-6.9s-3.1-6.9-6.9-6.9Z'/%3e%3c/g%3e%3c/g%3e%3c/svg%3e)