AIbase

F

Fmops Distilbert Prompt Injection Onnx

由 protectai 开发
这是 fmops/distilbert-prompt-injection 模型的 ONNX 格式转换版本，用于检测提示注入攻击。
大型语言模型
Transformers
英语
开源协议:Apache-2.0#提示注入检测#ONNX格式#零样本分类
下载量 23
发布时间 : 11/30/2023
模型介绍
内容详情
替代品

模型简介

该模型基于 DistilBERT 架构，专门用于检测和分类提示注入攻击，保护 AI 系统免受恶意输入的影响。

模型特点

ONNX 格式
模型已转换为 ONNX 格式，便于在不同平台上部署和推理。
提示注入检测
专门设计用于识别和分类提示注入攻击，保护 AI 系统安全。
轻量级
基于 DistilBERT 架构，相比原始 BERT 模型更轻量高效。

模型能力

文本分类
恶意输入检测
提示注入识别

使用案例

AI 安全
提示注入攻击检测
检测用户输入中是否包含试图操纵 AI 系统的恶意提示。
有效识别潜在的提示注入攻击，保护系统安全。
内容审核
恶意输入过滤
过滤可能危害 AI 系统的恶意或异常输入。
提高 AI 系统的鲁棒性和安全性。