AIbase

P

Pangolin Guard Large

由 dcarpintero 开发
基于ModernBERT（大模型版）的轻量级模型，专用于识别恶意提示（即提示注入攻击）。
大型语言模型
Transformers
开源协议:Apache-2.0#提示注入防御#轻量级安全模型#自托管防护
下载量 72
发布时间 : 3/11/2025
模型介绍
内容详情
替代品

模型简介

巨蜥守卫是一个专为识别和防御大语言模型（LLM）应用中的提示注入和越狱等安全挑战而设计的轻量级模型。它能够有效防止敏感数据泄露或模型行为偏离预期。

模型特点

轻量级设计
模型设计轻量，适合自托管和低成本部署。
高准确率
在专项基准测试中表现出高准确率和F1分数，有效识别恶意提示。
开源
完全开源，便于社区使用和改进。
低过度防御倾向
通过NotInject测试，衡量防护模型的过度防御倾向，确保良性输入不被误判。

模型能力

识别恶意提示
防御提示注入攻击
检测越狱攻击
保护敏感数据

使用案例

AI代理和对话界面
自托管防御机制
为AI代理和对话界面添加自托管、低成本的提示注入攻击防御机制。
有效防止敏感数据泄露和模型行为偏离预期。
安全防护
隐私侵犯尝试检测
评估隐私侵犯尝试和通过间接提示注入攻击提出的边界试探性查询。
高准确率识别恶意行为。