库名称: transformers
许可证: apache-2.0
基础模型: distilbert-base-uncased
标签:

• 训练生成
  评估指标:
• 准确率
  模型索引:
• 名称: vulnerability-severity-classification-distilbert-base-uncased
  结果: []
  数据集:
• CIRCL/vulnerability-scores

漏洞严重性分类模型-distilbert-base-uncased

本模型是基于distilbert/distilbert-base-uncased在CIRCL/vulnerability-scores数据集上微调得到的版本。

在评估集上取得如下结果:

• 损失值: 0.6447
• 准确率: 0.7595

模型描述

这是一个分类模型，旨在根据漏洞描述辅助进行严重性等级分类。

快速使用指南

from transformers import AutoModelForSequenceClassification, AutoTokenizer  
import torch  

labels = ["低", "中", "高", "严重"]  

model_name = "vulnerability-severity-classification-distilbert-base-uncased"  
tokenizer = AutoTokenizer.from_pretrained(model_name)  
model = AutoModelForSequenceClassification.from_pretrained(model_name)  
model.eval()  

test_description = "langchain_experimental 0.0.14版本允许攻击者绕过CVE-2023-36258补丁，通过PALChain的python exec方法执行任意代码。"  
inputs = tokenizer(test_description, return_tensors="pt", truncation=True, padding=True)  

# 执行推理  
with torch.no_grad():  
    outputs = model(**inputs)  
    predictions = torch.nn.functional.softmax(outputs.logits, dim=-1)  

# 打印结果  
print("预测概率:", predictions)  
predicted_class = torch.argmax(predictions, dim=-1).item()  
print("预测严重等级:", labels[predicted_class])  

训练与评估数据

需补充更多信息

训练流程

训练超参数

训练过程中使用以下超参数:

• 学习率: 2e-05
• 训练批大小: 32
• 评估批大小: 32
• 随机种子: 42
• 优化器: 使用OptimizerNames.ADAMW_TORCH，参数为betas=(0.9,0.999)，epsilon=1e-08，无额外参数
• 学习率调度类型: linear
• 训练轮数: 5

训练结果

框架版本

• Transformers 4.49.0
• Pytorch 2.6.0+cu124
• Datasets 3.3.2
• Tokenizers 0.21.0