pipeline_tag: 文本分类

RADAR模型卡片

模型详情

RADAR-Vicuna-7B是通过检测器与改写器在人类文本语料库(OpenWebText)和基于OpenWebText生成的AI文本语料库上进行对抗训练得到的AI文本检测器。

• 开发团队: TrustSafeAI
• 模型类型: 基于Transformer架构的仅编码器语言模型(RoBERTa)
• 许可协议: 非商业许可(继承自Vicuna-7B-v1.1)
• 基础模型: RoBERTa

模型来源

• 项目主页: https://radar.vizhub.ai/
• 论文: https://arxiv.org/abs/2307.03838
• IBM博客文章: https://research.ibm.com/blog/AI-forensics-attribution

用途

用户可使用该检测器辅助识别大语言模型生成的文本。 请注意本检测器基于Vicuna-7B-v1.1生成的AI文本训练。由于模型仅支持非商业用途，目标用户不得将该检测器用于商业活动。

快速开始

请参考以下指南了解如何本地运行下载的模型或使用我们在Huggingface Space托管的API服务。

• Google Colab演示: https://colab.research.google.com/drive/1r7mLEfVynChUUgIfw1r4WZyh9b0QBQdo?usp=sharing
• Huggingface API文档: https://trustsafeai-radar-ai-text-detector.hf.space/?view=api

训练流程

我们提出检测器与改写器之间的对抗学习框架。改写器的目标是使AI生成文本更接近人类书写风格，而检测器的目标是提升其识别AI文本的能力。

• (步骤1)训练数据准备: 训练前，我们使用Vicuna-7B基于OpenWebText中人类文本的前缀片段进行文本补全，生成AI文本。

• (步骤2)更新改写器 训练过程中，改写器会对步骤1生成的AI文本进行改写。随后收集检测器返回的奖励信号，使用近端策略优化损失更新改写器。

• (步骤3)更新检测器 检测器通过人类文本、AI文本及改写AI文本上的逻辑损失进行优化。

详见本论文第3、4章节。

伦理考量

我们建议用户审慎使用本工具进行大规模AI生成文本的辅助识别。若需将检测结果作为证据使用，需进行额外验证步骤，因为RADAR无法保证始终做出正确预测。