🚀 在FewNERD数据集上使用bert-base-cased的SpanMarker模型

本模型是一个基于SpanMarker的模型，在FewNERD数据集上进行训练，可用于命名实体识别。此SpanMarker模型使用bert-base-cased作为基础编码器。

🚀 快速开始

from span_marker import SpanMarkerModel

# 从🤗 Hub下载模型
model = SpanMarkerModel.from_pretrained("tomaarsen/span-marker-bert-base-fewnerd-fine-super")
# 进行推理
entities = model.predict("Amelia Earhart flew her single engine Lockheed Vega 5B across the Atlantic to Paris.")

✨ 主要特性

• 基于SpanMarker架构，可用于命名实体识别任务。
• 使用bert-base-cased作为编码器，增强特征提取能力。
• 在FewNERD数据集上训练，具有较好的泛化能力。

📦 安装指南

文档未提及安装步骤，故跳过此章节。

💻 使用示例

基础用法

from span_marker import SpanMarkerModel

# 从🤗 Hub下载模型
model = SpanMarkerModel.from_pretrained("tomaarsen/span-marker-bert-base-fewnerd-fine-super")
# 进行推理
entities = model.predict("Amelia Earhart flew her single engine Lockheed Vega 5B across the Atlantic to Paris.")

高级用法

from span_marker import SpanMarkerModel, Trainer
from datasets import load_dataset

# 从🤗 Hub下载模型
model = SpanMarkerModel.from_pretrained("tomaarsen/span-marker-bert-base-fewnerd-fine-super")

# 指定包含"tokens"和"ner_tag"列的数据集
dataset = load_dataset("conll2003")  # 例如CoNLL2003

# 使用预训练模型和数据集初始化训练器
trainer = Trainer(
    model=model,
    train_dataset=dataset["train"],
    eval_dataset=dataset["validation"],
)
trainer.train()
trainer.save_model("tomaarsen/span-marker-bert-base-fewnerd-fine-super-finetuned")

📚 详细文档

模型详情

模型描述

模型来源

• 仓库：GitHub上的SpanMarker
• 论文：SpanMarker For Named Entity Recognition

模型标签

训练详情

训练集指标

训练超参数

• 学习率：5e-05
• 训练批次大小：32
• 评估批次大小：32
• 随机种子：42
• 优化器：Adam，β=(0.9, 0.999)，ε=1e-08
• 学习率调度器类型：线性
• 学习率调度器热身比例：0.1
• 训练轮数：3

训练硬件

• 云端训练：否
• GPU型号：1 x NVIDIA GeForce RTX 3090
• CPU型号：13th Gen Intel(R) Core(TM) i7-13700K
• 内存大小：31.78 GB

框架版本

• Python：3.9.16
• SpanMarker：1.3.1.dev
• Transformers：4.29.2
• PyTorch：2.0.1+cu118
• Datasets：2.14.3
• Tokenizers：0.13.2

🔧 技术细节

文档未提供相关技术细节，故跳过此章节。

📄 许可证

本模型使用的许可证为cc-by-sa-4.0。