语言:

• 英语
  许可证: MIT
  标签:
• bert
• 文本分类
  数据集:
• ag_news
  评估指标:
• 准确率
• F1值
• 召回率
• 精确率

交互示例:

• 文本: "这是soccer还是football?"
  示例标题: "体育"
• 文本: "新版本Ubuntu已发布。"
  示例标题: "科技"

bert-base-cased-ag-news

基于BERT的模型，通过在[CLS]标记输出上添加线性层，在AG News分类数据集上微调，测试准确率达到0.945。

使用方法

以下是如何使用该模型对给定文本进行分类:

from transformers import AutoTokenizer, BertForSequenceClassification  
tokenizer = AutoTokenizer.from_pretrained('lucasresck/bert-base-cased-ag-news')  
model = BertForSequenceClassification.from_pretrained('lucasresck/bert-base-cased-ag-news')  
text = "这是soccer还是football?"  
encoded_input = tokenizer(text, return_tensors='pt', truncation=True, max_length=512)  
output = model(**encoded_input)  

局限性与偏差

该模型未进行偏差评估，但考虑到预训练BERT已知存在偏差，此模型也可能存在类似问题。BERT作者指出:"这种偏差会影响该模型的所有微调版本。"

评估结果

              精确率    召回率    F1值     支持数  

           0    0.9539   0.9584   0.9562    1900  
           1    0.9884   0.9879   0.9882    1900  
           2    0.9251   0.9095   0.9172    1900  
           3    0.9127   0.9242   0.9184    1900  

    准确率                         0.9450    7600  
   宏观平均     0.9450   0.9450   0.9450    7600  
加权平均     0.9450   0.9450   0.9450    7600