license: mit

joeddav/distilbert-base-uncased-go-emotions-student 已转换为ONNX格式并通过optimum工具进行量化处理。

distilbert-base-uncased-go-emotions-student

模型说明

本模型基于未标注的GoEmotions数据集，通过此脚本从零样本分类流程中蒸馏得到。训练过程采用混合精度训练10个周期，其余参数均保持脚本默认设置。

使用场景

该模型可像其他GoEmotions训练模型一样使用，但其性能可能不及全监督训练的模型。主要作为技术演示，展示如何将计算成本高昂的基于NLI的零样本模型蒸馏为更高效的轻量版，实现仅需未标注数据即可训练分类器。需注意：虽然GoEmotions数据集支持多标签标注，但教师模型采用单标签分类方式生成伪标签。