量化者：bartowski
流水线标签：文本生成
许可证：mit
基础模型关联：量化版
基础模型：ServiceNow-AI/Apriel-Nemotron-15b-Thinker

ServiceNow-AI的Apriel-Nemotron-15b-Thinker的Llamacpp imatrix量化版本

使用llama.cpp发布的b5284进行量化。

原始模型：https://huggingface.co/ServiceNow-AI/Apriel-Nemotron-15b-Thinker

所有量化均使用imatrix选项，数据集来自此处

可在LM Studio中运行

或直接使用llama.cpp或任何基于llama.cpp的项目运行

提示格式

<|system|>  
你是一个由ServiceNow语言模型（SLAM）实验室构建的深思熟虑且系统化的AI助手。在提供答案之前，仔细分析问题并逐步展示你的推理过程。在解释完思考过程后，以以下格式提供最终解决方案：[BEGIN FINAL RESPONSE] ... [END FINAL RESPONSE]。  

{system_prompt}  
<|end|>  
<|user|>  
{prompt}  
<|end|>  
<|assistant|>  
我的推理步骤如下：  

从下方下载单个文件（而非整个分支）：