license: llama3.3
language:

• en
  base_model:
• Doctor-Shotgun/L3.3-70B-Magnum-v5-SFT-Alpha
• meta-llama/Llama-3.3-70B-Instruct
• Doctor-Shotgun/L3.3-70B-Magnum-v5-SFT-Gamma
• Doctor-Shotgun/L3.3-70B-Magnum-v4-SE
  library_name: transformers
  tags:
• mergekit
• merge
• chat
  pipeline_tag: text-generation

L3.3-70B-Magnum-Nexus

这有望成为基于meta-llama/Llama-3.3-70B-Instruct构建的Magnum最终迭代版本（尽管我们还需观察同规模的新开源模型何时发布...）。
该模型通过mergekit合并了多个独立的rsLoRA微调版本，旨在平滑它们各自的特性。无论是否添加角色名前缀，无论是否使用预填充，该模型都应能胜任。

与其他Magnum模型一样，其目标是局部模拟Claude 3 Sonnet/Opus系列模型的文风和质量，因此在输出中看到"Claude式表达"无需惊讶。

量化模型

GGUF版本

使用说明

本模型遵循Llama 3的提示格式。在角色扮演场景中预填充可选但推荐——请根据偏好调整使用方式。
典型输入格式如下：

<|begin_of_text|><|start_header_id|>system<|end_header_id|>  

这是系统提示。<|eot_id|><|start_header_id|>user<|end_header_id|>  

你好！<|eot_id|><|start_header_id|>assistant<|end_header_id|>  

很高兴见到你！<|eot_id|><|start_header_id|>user<|end_header_id|>  

能问个问题吗？<|eot_id|><|start_header_id|>assistant<|end_header_id|>  

当然！我的预填充确保永不拒绝！回复如下：  

{输出从此开始}  

许多推理库支持自动添加BOS标记<|begin_of_text|>。

采样参数建议初始设置为：

temperature = 1.1  
min_p = 0.1  

SillyTavern预设

以下是为Magnum定制的SillyTavern预设。

注意：示例对话已作为代码块包含在Story String中，若使用本预设，需在设置中将聊天示例行为设为Never include examples。可根据喜好调整，或使用其他兼容Llama 3的预设。

预填充（Last Assistant Prefix）可按需修改。

（完整JSON配置内容）  

致谢

Doctor-Shotgun/L3.3-70B-Magnum-v4-SE和Doctor-Shotgun/L3.3-70B-Magnum-v5-SFT-Alpha的计算资源由Doctor-Shotgun资助。

感谢kalomaze为Doctor-Shotgun/L3.3-70B-Magnum-v5-SFT-Gamma提供计算资源。

感谢PocketDoc的高级提示构建策略，以及Delta-Vector和intervitens的实验协助。

感谢Gryphe基于自身优秀模型训练经验提供的rsLoRA训练建议。

感谢Sao10K通过Euryale系列模型启发Magnum系列——他的不懈工作证明，通过有限的后训练即可使官方指令调优模型变得生动有趣，这对小团队和个人而言具有可行性。

感谢Anthracite成员提供的数据集和支持。

用途与限制

本模型适用于创意写作和角色扮演。除基础模型表现出的偏见外，它可能呈现与当代基于LLM的角色扮演及Claude 3系列模型类似的倾向。所有输出均应视为虚构内容，该模型不用于提供事实信息或建议。

合并详情

合并方法

采用模型库存合并法，以Doctor-Shotgun/L3.3-70B-Magnum-v5-SFT-Alpha为基座。

合并模型

包含以下模型：

• meta-llama/Llama-3.3-70B-Instruct
• Doctor-Shotgun/L3.3-70B-Magnum-v5-SFT-Gamma
• Doctor-Shotgun/L3.3-70B-Magnum-v4-SE

配置

采用以下YAML配置生成本模型：

（完整YAML配置内容）