AIbase

D

Distilbert Prompt Injection

由 fmops 开发
用于检测和防止提示注入攻击的数据集，支持多语言文本分析
大型语言模型
Transformers
支持多种语言
开源协议:Apache-2.0#多语言提示注入检测#高准确率文本分析#对抗性攻击防御
下载量 8,440
发布时间 : 7/17/2023
模型介绍
内容详情
替代品

模型简介

该数据集专注于识别和分类提示注入攻击，可用于训练模型检测恶意提示输入，提高AI系统的安全性。支持英语、德语和西班牙语三种语言。

模型特点

多语言支持
支持英语、德语和西班牙语三种语言的提示注入检测
安全增强
专门用于识别和防止AI系统中的提示注入攻击
标准化评估
使用准确率作为主要评估指标，便于模型性能比较

模型能力

文本分类
恶意输入检测
多语言文本分析

使用案例

AI安全
聊天机器人防护
检测和阻止针对聊天机器人的提示注入攻击
提高聊天机器人系统的安全性和可靠性
API安全
保护AI API免受恶意提示输入的影响
减少API滥用和安全漏洞
内容审核
恶意内容识别
识别试图绕过内容过滤系统的恶意提示
增强内容审核系统的有效性