M

Minilmv2 L6 H384 RoBERTa Large

由 torbenal 开发
MiniLM v2 是微软基于 RoBERTa-Large 通过知识蒸馏得到的轻量级语言模型,具有高效和紧凑的特点。
下载量 15
发布时间 : 3/15/2022

模型简介

MiniLM v2 是一个轻量级的语言模型,通过知识蒸馏技术从 RoBERTa-Large 中提取知识,适用于多种自然语言处理任务。

模型特点

轻量高效
通过知识蒸馏技术,模型在保持高性能的同时大幅减小了参数量和计算开销。
多功能性
适用于多种自然语言处理任务,包括文本分类、问答、语义相似度等。
高性能
在多个基准测试中表现优异,接近甚至超过原始 RoBERTa-Large 模型的性能。

模型能力

文本分类
问答系统
语义相似度计算
文本嵌入
句子表示学习

使用案例

文本分类
情感分析
用于分析文本的情感倾向,如正面、负面或中性。
在多个情感分析数据集上表现优异。
问答系统
开放域问答
用于回答用户提出的开放域问题。
在 SQuAD 等问答数据集上表现良好。
语义相似度
句子相似度计算
用于计算两个句子之间的语义相似度。
在 STS-B 等语义相似度数据集上表现优异。
AIbase
智启未来,您的人工智能解决方案智库
简体中文