R

RM R1 Qwen2.5 Instruct 14B

由 gaotang 开发
RM-R1是一个用于推理奖励模型(ReasRM)的训练框架,通过生成评分标准或推理轨迹来判断候选答案,提供可解释的评价。
下载量 21
发布时间 : 5/6/2025

模型简介

RM-R1是一个创新的奖励模型框架,通过两阶段训练(蒸馏高质量推理轨迹和使用可验证奖励的强化学习)来提升奖励模型的准确性和可解释性。

模型特点

推理奖励模型
通过生成评分标准或推理轨迹来判断候选答案,提供完全可解释的评价。
两阶段训练
1. 蒸馏约8.7K条高质量推理轨迹;2. 在约64K个偏好对上使用可验证奖励的强化学习(RLVR)。
高性能
在公开奖励模型基准测试中实现高达+13.8%的绝对准确率提升。

模型能力

文本排序
推理轨迹生成
评分标准生成
偏好判断

使用案例

强化学习
RLHF/RLAIF
作为即插即用的奖励函数用于策略优化
自动评估
LLM评判员
用于开放域问答、聊天和推理的自动评估
研究
过程监督研究
研究思维链验证或评分标准生成
AIbase
智启未来,您的人工智能解决方案智库
简体中文