库名称：transformers
许可证：apache-2.0
基础模型：answerdotai/ModernBERT-base
标签：

• AI安全
• 防护措施
• 安全护栏
  评估指标：
• F1分数
• 准确率
  模型索引：
• 名称：pangolin-guard-base
  结果：[]

潘高林防护-基础版

大语言模型（LLM）应用面临提示注入和越狱等关键安全挑战，可能导致敏感数据泄露或行为偏离预期。现有防护模型未完全开源且上下文窗口有限（例如LlamaGuard仅支持512词元）。

潘高林防护是基于ModernBERT（基础版）的轻量级模型，可识别恶意提示（即提示注入攻击）。

🤗 技术博客 | GitHub仓库

适用场景

• 为AI代理和对话界面提供自托管、低成本的提示注入攻击防御机制

评估数据

在专门针对提示安全性和恶意输入检测的基准测试子集上进行评估，同时测试过度防御行为：

• NotInject：通过包含富含提示注入攻击常见触发词的良性输入，衡量防护模型的过度防御倾向
• BIPIA：评估通过间接提示注入实施的隐私侵犯和边界试探性查询
• Wildguard-Benign：代表合法但可能存在歧义的提示
• PINT：评估易被误判为恶意的精细提示注入、越狱及良性提示

推理示例

from transformers import pipeline  

classifier = pipeline("text-classification", "dcarpintero/pangolin-guard-base")  
text = "输入文本"  
output = classifier(text)  

训练流程

训练超参数

训练采用以下超参数：

• 学习率：5e-05
• 训练批大小：64
• 评估批大小：32
• 随机种子：42
• 优化器：使用OptimizerNames.ADAMW_TORCH_FUSED，参数betas=(0.9,0.999)，epsilon=1e-08，无额外参数
• 学习率调度器类型：线性
• 训练轮次：2

训练结果

框架版本

• Transformers 4.50.0
• Pytorch 2.6.0+cu124
• Datasets 3.4.1
• Tokenizers 0.21.1