language: zh license: apache-2.0 tags:

• 训练生成 metrics:
• 准确率
• F1值 widget:
• text: 电话客服人员非常友善且提供了很大帮助。 base_model: bert-base-uncased model-index:
• name: bert-base-uncased微调版-调查分类 results: []

bert-base-uncased微调版-调查分类

本模型是基于bert-base-uncased在定制化调查数据集上微调的版本，在评估集上取得如下结果：

• 损失值: 0.2818
• 准确率: 0.9097
• F1值: 0.9097

模型说明

需补充更多信息

局限性及偏差

本模型受限于特定客服领域的调查训练数据集，可能无法很好地泛化至其他不同领域的应用场景。

使用方法

可通过Transformers的pipeline功能进行文本分类：

from transformers import AutoTokenizer, AutoModelForSequenceClassification, pipeline
tokenizer = AutoTokenizer.from_pretrained("Jorgeutd/bert-base-uncased-finetuned-surveyclassification")
model = AutoModelForSequenceClassification.from_pretrained("Jorgeutd/bert-base-uncased-finetuned-surveyclassification")
text_classifier = pipeline("text-classification", model=model,tokenizer=tokenizer, device=0)
example = "电话客服人员非常友善且提供了很大帮助。"
results = text_classifier(example)
print(results)

训练与评估数据

定制化调查数据集。

训练流程

基于SageMaker笔记本实例。

训练超参数

训练过程中使用的超参数如下：

• 学习率: 3e-05
• 训练批次大小: 16
• 评估批次大小: 16
• 随机种子: 42
• 优化器: Adam（参数betas=(0.9,0.999)，epsilon=1e-08）
• 学习率调度器类型: linear
• 学习率预热步数: 100
• 训练轮次: 10
• 混合精度训练: Native AMP

训练结果

框架版本

• Transformers 4.16.2
• Pytorch 1.8.1+cu111
• Datasets 1.18.3
• Tokenizers 0.11.0