🚀 ThinkEdit-deepseek-qwen-14b

ThinkEdit-deepseek-qwen-14b 是一个用于缓解推理模型中过度简短思考问题的模型。该项目还发布了 ThinkEdit-deepseek-qwen-1.5b 和 ThinkEdit-deepseek-llama3-8b 的 ThinkEdit 版本。此方法通过识别和编辑少量参数，有效提升了模型在推理任务中的性能。

🚀 快速开始

本项目主要围绕 ThinkEdit 方法展开，旨在解决推理增强模型中生成过短、抽象思维链推理的问题。通过编辑少量参数，去除“短推理”方向，提高模型的准确性。

✨ 主要特性

• 轻量级编辑：识别约 2% 的“短推理”注意力头，仅编辑约 0.1% 的总参数。
• 性能提升：显著提高模型在推理任务中的性能，特别是在短推理痕迹的情况下。

📚 详细文档

项目信息

• 作者：Chung-En Sun, Ge Yan, Tsui-Wei Weng
• 论文：ThinkEdit: Interpretable Weight Editing to Mitigate Overly Short Thinking in Reasoning Models
• 代码：https://github.com/Trustworthy-ML-Lab/ThinkEdit

问题背景

推理增强模型有时会因生成过短、抽象的思维链（CoT）推理而失败，影响其准确性。

ThinkEdit 方法

ThinkEdit 是一种轻量级的权重编辑方法，具体步骤如下：

• 识别约 2% 的“短推理”注意力头。
• 仅编辑约 0.1% 的总参数。
• 从输出中去除“短推理”方向。
• 提升性能，特别是在短推理痕迹的情况下。

完整性能结果

1. 整体准确率

2. 短推理案例的准确率（前 5% / 10% / 20%）

3. 推理长度（最短响应的前 5% / 10% / 20%）

使用方法

ThinkEdit 模型的使用方法与原始的 deepseek-distilled 模型完全相同。

引用

@misc{sun2025thinkedit,
      title={ThinkEdit: Interpretable Weight Editing to Mitigate Overly Short Thinking in Reasoning Models}, 
      author={Chung-En Sun and Ge Yan and Tsui-Wei Weng},
      year={2025},
      eprint={2503.22048},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2503.22048}, 
}

📄 许可证

本项目采用 MIT 许可证。