base_model: oscar128372/Nova-0.5-e2-7B
tags:

• 文本生成推理
• 变换器模型
• 非懒惰优化
• 千问2架构
• 强化学习监督微调
• Apache 2.0许可
  language:
• 英文

Nova 0.5 e3

该模型展现出令人惊异的涌现特性。

当提问简单如4乘以2等于几？时，它会回答8。看起来平平无奇？

但经过测试发现，面对求解x^2 + x = 8这类复杂问题时，神奇的现象发生了：

<|思考开始|>  
**分析：**  
该方程为标准二次方程\(x^2 + x - 8 = 0\)。直接因式分解较困难，故尝试配方法。  

**步骤一：**  
等式两边加1：  
\(x^2 + x + 1 = 9\)  

**步骤二：**  
将左边配方为：  
\((x + \frac{1}{2})^2 + \frac{3}{4}\)  

**步骤三：**  
建立等式：  
\((x + \frac{1}{2})^2 = \frac{33}{4}\)  

**最终：**  
解得：  
\(\boxed{\frac{-1 + \sqrt{33}}{2}, \frac{-1 - \sqrt{33}}{2}\)  
<|思考结束|>  

<|解答开始|>  
**完整解：**  
通过配方法逐步推导，最终解为\(\boxed{\frac{-1 \pm \sqrt{33}}{2}}\)  
<|解答结束|>  

模型竟展现出逻辑推理能力，且答案完全正确！

虽然推理能力不及Nova-0.5-r1-7B，但已显现巨大潜力。

实现奥秘

难以置信的是，这纯属意外——我在数据集中误混了推理训练集！

结果发现，这种"错误"教会模型在复杂多步问题时自动触发推理模式。

使用须知

1. 禁止4bit量化加载：量化会彻底破坏推理能力，使其退化为普通基座模型
2. 必须使用ChatML对话模板：

<|im_start|>system  
{}<|im_end|>  
<|im_start||user  
{}<|im_end|>  
<|im_start|>assistant  
{}  

[!警告]

目前仅测试过"你是助人为乐的AI"系统提示，其他提示可能导致异常输出

运行示例

通过Hugging Face生态运行：

from transformers import AutoModelForCausalLM, AutoTokenizer  
import torch  

# 加载配置  
model = AutoModelForCausalLM.from_pretrained("oscar128372/Nova-0.5-e3-7B")  
tokenizer = AutoTokenizer.from_pretrained(model_name)  

# 构建ChatML提示  
prompt_template = """  
<|im_start|>system  
{system_prompt}<|im_end|>  
<|im_start|>user  
{query}<|im_end|>  
<|im_start|>assistant  
"""  

# 生成响应  
inputs = tokenizer(prompt_template.format(  
    system_prompt="你是数学解题专家",  
    query="解方程x^2 + x = 8"  
), return_tensors="pt")  

outputs = model.generate(**inputs, max_length=1024)  
print(tokenizer.decode(outputs[0]))  
# 预期输出包含完整推导过程的解  

未来计划

将跳过e4版本，直接开发1.0正式版。敬请期待更强大的推理模型！