language: zh license: mit inference: false

🦔 刺猬模型 🦔：基于BERT的多类别不确定性线索识别

模型描述

这是一个经过微调的多类别分类模型，能够在词元级别检测四种不同类型的不确定性线索（又称模糊限制语）。

不确定性类型

使用场景与限制

• 本模型使用Simple Transformers库微调。该库基于Transformers，但模型无法直接通过Transformers的pipeline或相关类调用，否则会产生错误输出。因此本页面的API接口已禁用。

使用方法

需配合Simple Transformers库进行预测：

from simpletransformers.ner import NERModel

model = NERModel(
    'bert',
    'jeniakim/hedgehog',
    use_cuda=False,
    labels=["C", "D", "E", "I", "N"],
)

example = "尽管我确实享受独处，但或许也不介意和你共度些许时光（比约克）"
predictions, raw_outputs = model.predict([example])

输出结果示例如下：

[[{'尽管': 'C'},
  {'我': 'C'},
  {'确实': 'C'},
  {'享受': 'C'},
  {'独处': 'C'},
  {'但': 'C'},
  {'或许': 'E'},
  {'也': 'C'},
  {'不介意': 'C'},
  {'和': 'C'},
  {'你': 'C'},
  {'共度': 'C'},
  {'些许': 'C'},
  {'时光': 'C'},
  {'（比约克）': 'C'}]]

此例中，"或许"被识别为认知型不确定性线索，其余词元均无不确定性标记。

训练数据

模型基于塞格德不确定性语料库(Szarvas等, 2012¹)训练评估。原始句子级XML数据可从此处获取。

训练使用的词元级版本可通过此链接下载（pickle格式的pandas DataFrame）。可选择下载拆分集（train.pkl 137MB, test.pkl 17MB, dev.pkl 17MB）或完整数据集（szeged_fixed.pkl 172MB）。每行数据包含词元、特征列（本模型未使用，原用于CRF基线模型训练，参见此处）、句子ID及标签。

训练参数

• 优化器：AdamW
• 学习率：4e-5
• 训练轮次：1
• 批次大小：16

评估结果

参考文献

¹ Szarvas G., Vincze V., Farkas R., Móra G., & Gurevych I. (2012). 跨文体与跨领域的语义不确定性检测。《计算语言学》，38(2), 335-367.