许可证：apache-2.0
语言：

• 英文
  标签：
• 创意
• 故事
• 写作
• 小说
• float32
• 角色扮演
• RP
• 增强版
• 太空鲸鱼
• 32位升级版
  任务类型：文本生成

超高质量重制版：Psyonic-Cetacean 20b - Imatrix Plus 2

这是32位浮点数升级版，所有组件和合并模型均被重制为32位浮点精度。
包括所有合并模型（使用主文件重新生成），并尽可能替换为完整的FP32模型。

本仓库包含新的Imatrix Plus 2量化版本，采用内部数据集与主数据集融合，以进一步提升超高质量重制版的性能。

目标：在模型被"GUFF化"前，始终保持最高精度。
甚至包含GGUF的F32主文件... 体积高达78GB。

为什么？
因为F32与BF16的差异... 超过8位小数精度。
每次合并/修改模型时都会产生"精度损失"。
这些损失会累积并引发更多损失。
而小数精度对模型性能至关重要。

影响很小？
是的... 但每次合并和压缩都会放大这种损失：200亿次。

结果：

• Q2K版本困惑度显著降低533点（数值越低越好）
  （对比原版Q2K基础模型：PPL = 9.8077 ± 0.06821）
• Q4KM版本困惑度大幅降低976点
  （对比原版Q4KM基础模型：PPL = 8.7858 ± 0.06074）
• Q6版本困惑度惊人降低234点
  （对比原版Q6基础模型：PPL = 8.6070 ± 0.05907）

量化突破：

• Q6版本性能已超越原版Psyonic-Cetacean-20b全精度模型
• Q4KM版本接近原版Q6质量水平
• Imatrix量化版本在多数情况下将困惑度降幅再翻倍

Q8版本表现：
困惑度再降150点：PPL = 8.5850 ± 0.05881
（对比原版：PPL = 8.6012 ± 0.05900）

聊天/角色扮演优化设置：
在KoboldCpp、text-generation-webui或Silly Tavern中：
将"Smoothing_factor"设为1.5-2.5

其他建议：

• 重复惩罚系数可调至1.1-1.15（若使用平滑因子则无需调整）
• 支持"二次采样"（平滑）的接口直接应用上述调整

模型创作者Jeb Carter验证：

• 指令跟随能力显著提升
• 涌现新能力
• 可简化原有指令集
• 文本表现力、细节深度全面提升
• 原版已知问题消失

技术本质：
通过数学严谨的方法，在模型GGUF化前最大限度保持精度，并非"无代价提升"。

核心价值：

• 更高质量的指令响应和输出
• 小量化版本也能保持优异性能
• 同款模型，性能跃升

这是首批重制版本，特别感谢原模型创作者Jeb Carter。

[查看原模型：https://huggingface.co/jebcarter/psyonic-cetacean-20B]

最高质量参数设置指南：
本模型属于"Class 2"类别，完整优化设置（含分类专属参数）、示例生成及高级调优指南（含各类应用场景解决方案）详见：
[模型性能最大化指南：https://huggingface.co/DavidAU/Maximizing-Model-Performance-All-Quants-Types-And-Full-Precision-by-Samplers_Parameters]