X

Xtremedistil L12 H384 Uncased Finetuned Wikitext103

由 saghar 开发
该模型是基于microsoft/xtremedistil-l12-h384-uncased在wikitext数据集上微调的版本,主要用于文本生成任务。
下载量 16
发布时间 : 3/21/2022

模型简介

这是一个经过微调的极端蒸馏模型,专注于文本生成任务,在wikitext数据集上进行了优化。

模型特点

极端蒸馏
采用极端蒸馏技术,在保持性能的同时大幅减少模型大小
wikitext微调
专门针对wikitext数据集进行了微调,优化了文本生成能力
高效推理
较小的模型尺寸带来更快的推理速度

模型能力

文本生成
语言建模

使用案例

文本生成
维基风格文本生成
生成类似维基百科风格的文本内容
在wikitext评估集上损失值为6.7699
AIbase
智启未来,您的人工智能解决方案智库
简体中文