library_name: transformers
license: mit
base_model: roberta-base
tags:

• generated_from_trainer
  metrics:
• accuracy
  model-index:
• name: toxicity-classification-model
  results: []
  datasets:
• dirtycomputer/Toxic_Comment_Classification_Challenge
  language:
• en
  pipeline_tag: text-classification

毒性评论分类模型

该模型是基于roberta-base在dirtycomputer/Toxic_Comment_Classification_Challenge数据集上微调的版本，在评估集上取得了以下结果：

• 损失值：0.0511
• 准确率：0.9812

模型描述

本模型是经过微调的roberta-base模型，用于检测评论中的毒性内容。它能将评论分类为不同毒性类型，例如"有毒"、"淫秽"、"侮辱"和"威胁"。

用途与限制

用途

• 内容审核：自动标记或删除社交媒体平台、论坛和客户支持中的毒性评论。
• 毒性检测：根据评论的毒性程度（如恶意语言或侮辱性内容）进行分类。

限制

• 漏检风险：可能无法识别隐晦的毒性行为。
• 语言局限性：目前仅支持英语数据训练。
• 语境敏感性：对模棱两可或讽刺性语言可能判断不准。

训练与评估数据

本模型使用dirtycomputer/Toxic_Comment_Classification_Challenge数据集进行微调，该数据集包含标注好的毒性评论分类数据。

训练流程

训练超参数

训练过程中使用的超参数如下：

• 学习率：5e-05
• 训练批次大小：8
• 评估批次大小：16
• 随机种子：42
• 优化器：采用adamw_torch，参数betas=(0.9, 0.999)，epsilon=1e-08
• 学习率调度器类型：线性
• 学习率预热步数：500
• 训练轮次：3

训练结果

框架版本

• Transformers 4.47.1
• Pytorch 2.5.1+cu121
• Datasets 3.2.0
• Tokenizers 0.21.0