library_name: transformers
tags:

• 越狱检测
• 安全性
• 安全防护
  language:
• 英文
  metrics:
• 准确率
• ROC曲线下面积
  base_model:
• prajjwal1/bert-tiny
• google-bert/bert-base-uncased
  pipeline_tag: 文本分类

模型卡片（Model ID）

用于检测饱和型越狱攻击的小型模型。不适用于独立防御其他类型的越狱攻击。

模型详情

模型描述

• 开发团队: Guardrails AI, Joseph Catrambone
• 资助方 [可选]: Guardrails AI
• 模型类型: Transformer, BERT
• 支持语言 (NLP): 英语
• 许可证: 限制性协议
• 微调基础模型 [可选]: bert-tiny

模型来源 [可选]

• 代码仓库: https://www.github.com/guardrails-ai/detect-jailbreak

用途

专为检测部分饱和攻击设计的小型预过滤器。

非适用范围

无法捕获其他类型的越狱攻击。饱和攻击防护仅是防御机器学习系统滥用的完整方案中的一个组成部分。