license: apache-2.0 language:

• en library_name: transformers pipeline_tag: zero-shot-classification tags:
• ORTModelForSequenceClassification

量化版DeBERTa-v3-base-onnx模型

本模型基于基础模型sileod/deberta-v3-base-tasksource-nli进行量化处理，使用时需确保机器已安装onnxruntime运行环境。 您可以通过访问我的Huggingface Spaces体验该模型。

该Huggingface应用的源代码已开源至GitHub。

本地运行指南（本模型针对支持AVX2指令集的CPU进行了优化）：

1. 安装依赖项

pip install transformers optimum[onnxruntime]

2. 运行模型：

# 加载库
from transformers import AutoTokenizer
from optimum.onnxruntime import ORTModelForSequenceClassification
from optimum.pipelines import pipeline

# 加载模型组件
MODEL_ID = "pitangent-ds/deberta-v3-nli-onnx-quantized"
tokenizer = AutoTokenizer.from_pretrained(MODEL_ID)
model = ORTModelForSequenceClassification.from_pretrained(MODEL_ID)

# 构建推理管道
classifier = pipeline("zero-shot-classification", tokenizer=tokenizer, model=model)

# 执行推理
text = "我买的这件夹克太棒了"
candidate_labels = ["正面评价", "负面评价"]

results = classifier(text, candidate_labels)