base_model:

• Qwen/Qwen2.5-VL-7B-Instruct language:
• en library_name: transformers license: apache-2.0 pipeline_tag: image-text-to-text tags:
• multi-modal
• large-language-model

MMR1：推动多模态推理前沿发展

若喜欢本项目，请在Github上为我们点亮星标 ⭐ 以表支持 🙏🙏

📰 最新动态

• [2025.03.11] 🔥🔥 发布MMR1-Math-v0，仅用6k数据即实现SOTA性能！

相关链接

代码库: https://github.com/LengSicong/MMR1

本模型基于论文LMM-R1: 通过两阶段规则强化学习赋能30亿参数大模型构建，代码详见https://github.com/LengSicong/MMR1

模型描述

MMR1-Math-v0-7B是专注于数学任务的大型多模态模型。值得注意的是，该模型在开源7B多模态模型中实现了最先进的性能，仅使用6k精选数据样本训练即可媲美参数量大得多的商业模型。

核心亮点：

• SOTA性能：在开源7B模型中创下数学多模态任务的新标杆

• 极小训练数据：仅需6k来自公开训练集的高质量样本即可实现顶级表现

• 高效GRPO训练：使用64张H100显卡进行6小时RL训练（15个epoch）

• 公开高质量数据：源自公开数据集，经严格筛选并平衡题目难度与数学题型

• 均衡数据策略：基于任务难度（过滤过于简单题目）和数学推理多样性进行均匀采样

评估结果

我们使用VLMEvalKit在四个数学推理基准测试（MathVista_MINI、MathVision、LogicVista和MathVerse_MINI）上评估模型。为保持与VLMEvalKit排行榜的一致性，同时包含MathVerse_MINI_Vision_Only_cot（MathVerse_V）子集结果。下表对比了开源与商业模型表现：