D

Distilbart Mnli 12 3

由 valhalla 开发
DistilBart-MNLI 是 bart-large-mnli 的蒸馏版本,采用无教师蒸馏技术,性能接近原模型但更轻量。
下载量 8,791
发布时间 : 3/2/2022

模型简介

该模型是基于 BART 架构的自然语言推理模型,专门用于零样本分类任务,是 bart-large-mnli 的轻量级版本。

模型特点

无教师蒸馏技术
采用 Huggingface 提出的无教师蒸馏方法,通过交替复制层实现模型压缩。
性能接近原模型
在 MNLI 数据集上表现优异,12-6 层版本匹配准确率达 89.19%,接近原模型的 89.9%。
多种配置可选
提供 12-1、12-3、12-6、12-9 等多种层数配置,满足不同性能需求。

模型能力

自然语言推理
零样本分类
文本蕴含识别

使用案例

文本分类
情感分析
无需微调即可对文本进行情感倾向分类
内容审核
有害内容识别
识别文本中的不当或有害内容
AIbase
智启未来,您的人工智能解决方案智库
简体中文