许可证: mit
数据集:

• openai/summarize_from_feedback
• openai/webgpt_comparisons
• Dahoas/instruct-synthetic-prompt-responses
  语言:
• en
  评估指标:
• accuracy
  标签:
• reward-model
• reward_model
• RLHF

基于人类反馈训练的奖励模型

该奖励模型（RM）经过训练，能够预测在给定问题下，人类评判者会认为哪个生成的答案更好。

奖励模型在以下领域非常有用：

• 问答模型评估
• 作为强化学习人类反馈（RLHF）中的奖励分数

所有模型均在以下数据集上训练，且在不同数据集间采用相同的分割种子（如果验证集分割不可用）：

• webgpt_comparisons
• summarize_from_feedback
• synthetic-instruct-gptj-pairwise

使用方法

from transformers import AutoModelForSequenceClassification, AutoTokenizer  
reward_name = "OpenAssistant/reward-model-deberta-v3-large"  
rank_model, tokenizer = AutoModelForSequenceClassification.from_pretrained(reward_name), AutoTokenizer.from_pretrained(reward_name)  
question, answer = "用五岁小孩能理解的方式解释核聚变", "核聚变是两个或多个质子和中子结合形成单个原子核的过程。这是宇宙中非常重要的过程，因为它是恒星和星系的能量来源。核聚变也是核电站能量生产的关键过程。"  
inputs = tokenizer(question, answer, return_tensors='pt')  
score = rank_model(**inputs).logits[0].cpu().detach()  
print(score)  

性能表现

验证集准确率

SytheticGPT可能在选择的拒绝对上存在某种表面模式，这使得区分答案优劣变得非常容易。