🚀 科学关键词分类模型

本项目对 INDUS 模型 进行了微调，用于对美国国家航空航天局（NASA）通用元数据存储库（CMR）中的科学关键词进行分类。该项目旨在通过在极端多标签分类环境中预测相关关键词，提高地球观测元数据的可访问性和组织性。

🚀 快速开始

我们对 INDUS 模型 进行微调，以实现从 NASA 的通用元数据存储库（CMR）中对科学关键词进行分类。项目目标是在极端多标签分类场景下，通过预测相关关键词，提升地球观测元数据的可访问性和组织性。

✨ 主要特性

• 极端多标签分类：能够处理大量潜在标签（关键词）的分类问题，并且可以应对标签频率不平衡的情况。
• 分层拆分：数据集基于 provider-id 进行拆分，以确保训练集、验证集和测试集之间的平衡表示。
• 性能提升：评估了不同聚焦参数（γ）的焦点损失，与交叉熵损失和之前的模型相比，在加权精度、召回率、F1 分数和 Jaccard 相似度方面有显著提升。

📦 安装指南

暂未提供相关安装步骤。

💻 使用示例

基础用法

在从模型获得预测结果后，我们可以使用 model.config.id2label 字典将预测的标签索引映射到它们的实际名称。

# Example usage
predicted_indices = [0, 2, 5] # top 3
predicted_labels = [model.config.id2label[idx] for idx in predicted_indices]
print(predicted_labels)

📚 详细文档

模型概述

实验

1. 基线模型（alpha-1.0.1）：使用交叉熵损失。
2. 实验 2（alpha-1.1.1）：焦点损失，γ = 4。
3. 实验 3（alpha-1.1.2）：焦点损失，γ = 2。
4. 最终模型（alpha-1.2.1）：焦点损失（γ = 2），采用分层拆分。

结果

具有焦点损失和分层采样的模型（alpha-1.2.1）在精度、召回率、F1 分数和 Jaccard 相似度方面优于所有其他配置和之前的模型。可以在下面找到该模型在不同阈值下的加权指标。

请 在此处查看相关技术文档。

参考文献

• RoBERTa: arXiv
• 焦点损失: arXiv
• NASA CMR
• 之前的模型 API

📄 许可证

本项目采用 Apache-2.0 许可证。