库名称: transformers 数据集:

• MoritzLaurer/synthetic_zeroshot_mixtral_v0.1 语言:
• 英文 基础模型:
• answerdotai/ModernBERT-large 流水线标签: 零样本分类 许可证: mit

模型描述

该模型是基于ModernBERT-large进行微调的自然语言推理模型。它在MoritzLaurer/synthetic_zeroshot_mixtral_v0.1数据集上训练，专门用于执行零样本分类任务。

模型概览

• 模型类型: ModernBERT-large (BERT变体)
• 任务: 零样本分类
• 语言: 英语
• 数据集: MoritzLaurer/synthetic_zeroshot_mixtral_v0.1
• 微调: 针对零样本分类进行微调

性能指标

待补充。

• 训练损失: 衡量模型对训练数据的拟合程度。
• 验证损失: 衡量模型对未见数据的泛化能力。
• 准确率: 所有样本中正确预测的百分比。
• F1分数: 精确率和召回率之间的平衡指标。

安装与使用示例

pip install transformers torch datasets

classifier = pipeline("zero-shot-classification", "r-f/ModernBERT-large-zeroshot-v1")
sequence_to_classify = "我想成为一名演员。"
candidate_labels = ["太空", "经济", "娱乐"]
output = classifier(sequence_to_classify, candidate_labels, multi_label=False)
print(output)
>>{'sequence': '我想成为一名演员。', 'labels': ['娱乐', '太空', '经济'], 'scores': [0.9614731073379517, 0.028852475807070732, 0.009674412198364735]}

模型卡片

• 模型名称: ModernBERT-large-zeroshot-v1
• Hugging Face仓库: r-f/ModernBERT-large-zeroshot-v1
• 许可证: MIT (或其他适用许可证)
• 日期: 2024年12月23日

训练详情

• 模型: ModernBERT (大型变体)
• 框架: PyTorch
• 批量大小: 32
• 学习率: 2e-5
• 优化器: AdamW
• 硬件: RTX 4090

致谢

• 该模型在MoritzLaurer/synthetic_zeroshot_mixtral_v0.1数据集上训练。训练脚本改编自MoritzLaurer/zeroshot-classifier
• 特别感谢Hugging Face社区以及transformers库的所有贡献者。

许可证

本模型采用MIT许可证。详见LICENSE文件获取更多细节。