许可证: cc-by-nc-4.0 基础模型: distilbert-base-uncased 标签:

• 训练器生成 模型索引:
• 名称: distilbert_finetuned_ai4privacy_v2 结果: [] 数据集:
• ai4privacy/pii-masking-200k
• Isotonic/pii-masking-200k 管道标签: 令牌分类 语言:
• 英语 指标:
• seqeval

🌟 请我喝咖啡是支持本项目最直接的方式。

distilbert_finetuned_ai4privacy_v2

该模型是基于distilbert-base-uncased在ai4privacy/pii-masking-200k数据集的英语子集上微调的版本。

使用方法

GitHub实现: Ai4Privacy

模型描述

该模型已在全球最大的开源隐私数据集上进行了微调。

训练模型的目的是从文本中移除个人身份信息（PII），特别是在AI助手和LLM的上下文中。

示例文本包含54个PII类别（敏感数据类型），针对229个讨论主题/用例，涵盖商业、教育、心理学和法律领域，以及5种交互风格（如随意对话、正式文档、电子邮件等）。

具体研究请查看GitHub实现。

预期用途与限制

需要更多信息

训练与评估数据

需要更多信息

训练超参数

训练期间使用的超参数如下：

• 学习率: 5e-05
• 训练批次大小: 8
• 评估批次大小: 8
• 随机种子: 42
• 优化器: Adam，参数为betas=(0.9,0.999)和epsilon=1e-08
• 学习率调度器类型: cosine_with_restarts
• 学习率预热比例: 0.2
• 训练轮数: 5

分类指标

在评估集上达到以下结果：

• 损失: 0.0451

• 总体精确率: 0.9438

• 总体召回率: 0.9663

• 总体F1分数: 0.9549

• 总体准确率: 0.9838

• 账户名F1: 0.9946

• 账号F1: 0.9940

• 年龄F1: 0.9624

• 金额F1: 0.9643

• BIC码F1: 0.9929

• 比特币地址F1: 0.9948

• 建筑编号F1: 0.9845

• 城市F1: 0.9955

• 公司名F1: 0.9962

• 县F1: 0.9877

• 信用卡CVV码F1: 0.9643

• 信用卡发行方F1: 0.9953

• 信用卡号F1: 0.9793

• 货币F1: 0.7811

• 货币代码F1: 0.8850

• 货币名称F1: 0.2281

• 货币符号F1: 0.9562

• 日期F1: 0.9061

• 出生日期F1: 0.7914

• 电子邮件F1: 1.0

• 以太坊地址F1: 1.0

• 眼睛颜色F1: 0.9837

• 名F1: 0.9846

• 性别F1: 0.9971

• 身高F1: 0.9910

• IBAN码F1: 0.9906

• IP地址F1: 0.4349

• IPv4地址F1: 0.8126

• IPv6地址F1: 0.7679

• 工作领域F1: 0.9880

• 职位F1: 0.9991

• 工作类型F1: 0.9777

• 姓氏F1: 0.9684

• 莱特币地址F1: 0.9721

• MAC地址F1: 1.0

• 掩码号码F1: 0.9635

• 中间名F1: 0.9330

• 附近GPS坐标F1: 1.0

• 方位F1: 0.9910

• 密码F1: 1.0

• 手机IMEI码F1: 0.9918

• 电话号码F1: 0.9962

• PIN码F1: 0.9477

• 前缀F1: 0.9546

• 次要地址F1: 0.9892

• 性别F1: 0.9876

• 社保号F1: 0.9976

• 州F1: 0.9893

• 街道F1: 0.9873

• 时间F1: 0.9889

• 网址F1: 1.0

• 用户代理F1: 0.9953

• 用户名F1: 0.9975

• 车辆VIN码F1: 1.0

• 车辆VRM码F1: 1.0

• 邮政编码F1: 0.9873

训练结果