数据集:

• STL-10 库名称: tf-keras 许可证: apache-2.0 标签:
• 图像分类

使用SimCLR对比预训练的半监督图像分类模型

描述

这是一个通过SimCLR对比预训练实现半监督图像分类训练的简单图像分类模型。训练过程完全遵循András Béres在keras.io上提供的示例方案。

该模型基于STL-10数据集训练，包含十个类别：飞机、鸟类、汽车、猫、鹿、狗、马、猴子、船舶、卡车。

评估指标

可通过此链接查看公开的W&B仪表盘，其中对比展示了基线监督模型、纯无监督预训练模型以及基于无监督学习的监督微调模型在准确率等指标上的差异。

背景说明

(引自András Béres在keras.io的论述) 半监督学习是处理部分标注数据集的机器学习范式。现实应用中，深度学习通常需要大规模数据集才能取得良好效果。然而，当数据标注成本随数据集规模线性增长时（标注每个样本需要固定时间），模型性能却仅呈次线性提升。这意味着持续增加标注样本的成本效益会越来越低，而无标注数据通常可以廉价地大规模获取。

半监督学习通过以下方式解决该问题：仅需部分标注数据集，并充分利用未标注样本进行高效学习。本示例中，我在STL-10半监督数据集上完全不使用标签进行对比学习预训练编码器，随后仅使用其标注子集进行微调。