量化者：ArtusDev
流水线标签：文本生成
基础模型：ToastyPigeon/Gemma-3-Starshine-12B
许可证：gemma
基础模型关系：量化
语言：

• 英文
  标签：
• imatrix
• gemma3_text

量化说明

本仓库包含从 ToastyPigeon/Gemma-3-Starshine-12B 转换而来的 GGUF 格式模型文件。

转换由 ArtusDev 使用 llama.cpp 完成，特别采用了 imatrix 量化选项以提升潜在性能。

🌠G3 星光 12B🌠

此为测试集中的合并版本 A / A1。

一款基于 Gemma 3 12B IT 和 Gemma 3 12B PT 微调合并的创意写作模型。

此为故事向合并版本，更擅长叙事与场景构建，文风偏向小说化，且倾向于代入用户角色。

另可查看角色扮演向替代版本。

本模型合并了两个 G3 模型（一个基于指令微调，一个基于基础训练）：

• allura-org/Gemma-3-Glitter-12B —— 本身合并了故事写作与角色扮演训练数据（均由 ToastyPigeon 提供），基于指令微调
• ToastyPigeon/Gemma-3-Confetti-12B —— 使用基础模型实验性应用 Glitter 数据，额外包含 SpringDragon 的冒险类数据

合并成果完美融合了 Glitter 的指令遵循能力与 Confetti 的自由文风，有效缓解了 Glitter 残留的拘谨感。

若搭配适当的 mmproj 文件，当前 GGUF 版本可实现视觉功能（与其他同类模型效果相当）；未来计划修复缺失的视觉模块以实现完整多模态支持。

特别感谢 jebcarter 的灵感贡献，成果令人欣喜！

指令格式

沿用 Gemma2/3 指令格式，但已训练支持可选系统角色。

注：虽然不会直接排斥系统角色，但省略时效果可能更佳。

<start_of_turn>system  
{可选系统提示}<end_of_turn>  
<start_of_turn>user  
{用户消息；也可在此处使用内置 G3 训练的系统提示}<end_of_turn>  
<start_of_turn>model  
{模型响应}<end_of_turn>  

合并配置

经过多次尝试，此配置效果最佳。

models:  
  - model: ToastyPigeon/Gemma-3-Confetti-12B  
    parameters:  
      weight: 0.5  
  - model: allura-org/Gemma-3-Glitter-12B  
    parameters:  
      weight: 0.5  
merge_method: linear  
tokenizer_source: allura-org/Gemma-3-Glitter-12B