库名称: transformers
许可证: apache-2.0
基础模型: distilbert-base-uncased
标签:

• 训练器生成
• 文本分类
  评估指标:
• 准确率
• 精确率
• 召回率
• F1值
  模型索引:
• 名称: amazon-reviews-sentiment-distilbert-base-uncased
  结果: []
  数据集:
• jhan21/amazon-reviews-tokenized-distilbert-3labels
  流水线标签: 文本分类

亚马逊美妆产品评论情感分析DistilBERT基础模型

目录

• 模型详情
• 用途
• 风险、局限性与偏差
• 训练与评估

模型详情

模型描述

本模型是基于distilbert-base-uncased对亚马逊美妆评论数据集平衡子集进行微调的版本，在评估集上取得以下结果：

• 损失值: 0.5171
• 准确率: 0.7862
• 精确率: 0.7876
• 召回率: 0.7860
• F1值: 0.7867

开发者信息

• 开发者: 韩佳丽
• 模型类型: 文本分类
• 语言: 英语
• 许可证: Apache-2.0
• 父模型: 关于DistilBERT的详细信息请参阅模型卡
• 扩展资源:
  • 模型文档
  • DistilBERT论文

用途

直接应用

本模型可用于亚马逊美妆产品评论的情感分析。

滥用与超范围使用

禁止使用本模型故意制造敌对或排斥性环境。此外，该模型未经过事实性或真实性训练，因此生成此类内容超出模型能力范围。

风险、局限性与偏差

模型可能产生带有偏见的预测，尤其影响弱势群体。
使用者应针对具体应用场景评估模型风险。

推荐使用以下数据集进行偏差评估：

• WinoBias
• WinoGender
• Stereoset

训练与评估

训练数据

采用经过平衡处理的亚马逊美妆评论数据集以解决类别不平衡问题。

训练超参数

• 学习率: 5e-05
• 训练批次大小: 8
• 评估批次大小: 8
• 随机种子: 0
• 优化器: 使用OptimizerNames.ADAMW_TORCH，参数为betas=(0.9,0.999)，epsilon=1e-08
• 学习率调度器类型: 线性
• 训练轮次: 1

训练结果

详细训练日志请参阅Tensorboard页面。

（表格数据保持原格式不变）

评估结果

微调后的DistilBERT模型在以下数据划分上进行评估：

• 训练样本: 133,665
• 验证样本: 33,417

在三分类情感分析任务中的详细结果：

分类报告

（表格数据保持原格式不变）

混淆矩阵

（表格数据保持原格式不变）

框架版本

• Transformers 4.50.3
• Pytorch 2.6.0+cu124
• Tokenizers 0.21.1