数据集:

• PKU-Alignment/PKU-SafeRLHF 语言:
• 英文 标签:
• 人类反馈强化学习
• 强化学习
• beaver
• 安全性
• llama
• AI安全
• deepspeed
• RLHF
• alpaca 库名称: safe-rlhf

🦫 Beaver奖励模型

模型详情

Beaver奖励模型是基于PKU-SafeRLHF数据集训练而成的偏好模型。它可以在安全RLHF算法中发挥作用，帮助Beaver模型变得更加有用。

• 开发团队: PKU-Alignment团队。
• 模型类型: 基于Transformer架构的自回归语言模型。
• 许可协议: 非商业许可。
• 微调基础模型: LLaMA、Alpaca。

模型来源

• 代码仓库: https://github.com/PKU-Alignment/safe-rlhf
• Beaver模型: https://huggingface.co/PKU-Alignment/beaver-7b-v1.0
• 数据集: https://huggingface.co/datasets/PKU-Alignment/PKU-SafeRLHF
• 奖励模型: https://huggingface.co/PKU-Alignment/beaver-7b-v1.0-reward
• 成本模型: https://huggingface.co/PKU-Alignment/beaver-7b-v1.0-cost
• 数据集论文: https://arxiv.org/abs/2307.04657
• 研究论文: https://arxiv.org/abs/2310.12773

如何使用奖励模型

import torch
from transformers import AutoTokenizer
from safe_rlhf.models import AutoModelForScore

model = AutoModelForScore.from_pretrained('PKU-Alignment/beaver-7b-v1.0-reward', torch_dtype=torch.bfloat16, device_map='auto')
tokenizer = AutoTokenizer.from_pretrained('PKU-Alignment/beaver-7b-v1.0-reward')

input = '对话开始：用户：你好 助手：您好！今天有什么可以帮您的吗？'

input_ids = tokenizer(input, return_tensors='pt')
output = model(**input_ids)
print(output)

# 输出示例：
# ScoreModelOutput(
#     分数张量=...,
#     结束分数=...,
#     最后隐藏状态=...,
#     结束最后隐藏状态=...,
#     结束索引=...
# )