语言:
- 英语
许可证: Apache-2.0
标签:
- 训练生成
数据集:
- GLUE
评估指标:
- 准确率
- F1值
基础模型: bert-base-uncased
模型索引:
- 名称: bert-base-uncased-qqp
结果:
- 任务:
类型: 文本分类
名称: 文本分类
数据集:
名称: GLUE QQP
类型: glue
参数: qqp
评估指标:
- 类型: 准确率
值: 0.9099925797674994
名称: 准确率
- 类型: F1值
值: 0.8788252139455897
名称: F1值
- 任务:
类型: 自然语言推理
名称: 自然语言推理
数据集:
名称: glue
类型: glue
配置: qqp
分割: 验证集
评估指标:
- 类型: 准确率
值: 0.9099925797674994
名称: 准确率
已验证: 是
验证令牌: eyJhbGciOiJFZERTQSIsInR5cCI6IkpXVCJ9.eyJoYXNoIjoiY2RlZGIxNjAyYjRkMzg4N2FhMDEwYzk3NzNlNDEyNjc2ZTI4M2U4Mjk0ODU0NTk4NmNhNjUwZjAxNDBmNjdkMiIsInZlcnNpb24iOjF9.ftCigJiFH-iVFMBG5dSVIxdV4sgu3QVcQ0HGDjnxdI6nlWXRVAXEPkEFBeo2T-NfKNOV62HRYC7JgquMS00VDg
- 类型: 精确率
值: 0.8712531361415555
名称: 精确率
已验证: 是
验证令牌: eyJhbGciOiJFZERTQSIsInR5cCI6IkpXVCJ9.eyJoYXNoIjoiMGM5MDdjZGY5YzE4OTg3YmJkYTgwYWMxOWY4NjhkNmE3N2YwMzc0OTc1ODQ0NjZhYjYzZDA3NTZkODczODMyYyIsInZlcnNpb24iOjF9.waQg4ueAVRbKStoFGrZrLBgWgsfmK-Ro-eHFYNLObmSbbi35hC46tjAGgNd1blHc6aNsLmpkfK-qtMCepPEEAQ
- 类型: 召回率
值: 0.8865300638226402
名称: 召回率
已验证: 是
验证令牌: eyJhbGciOiJFZERTQSIsInR5cCI6IkpXVCJ9.eyJoYXNoIjoiNzYyODkxZmU4ZDNjNmQ0ZGZiMTExZTA0Mjk2ZjZkMDRiNGFhOWFhNTBhNzNkMjE5YzE2MDRkN2I4YjVlMTYxZSIsInZlcnNpb24iOjF9.wXo-nBoBrXeunx-4yCbkNUfyqc8HhrJ0NeQA1d_cNBXlsNVeGEznVFduSu8aVwrrLqbRpDJWYshPEL9eAxQPAQ
- 类型: AUC
值: 0.9690747048570257
名称: AUC
已验证: 是
验证令牌: eyJhbGciOiJFZERTQSIsInR5cCI6IkpXVCJ9.eyJoYXNoIjoiYmZjZTc3NmU3MTQ4OWVmMWMzNzIxYjU5YjRjOGIwMzQwNGIxZmJhODJjMDhkZjA1ZGJmYjAzNDM4ZGQxZmQxNiIsInZlcnNpb24iOjF9.KiQN8JfNNTB3lBV-58LoLhQnUZTixTzId_URIpCFENICV2ykYzwfR7WW9WrOc8dbRv79121xB46fjNLGHziBAQ
- 类型: F1值
值: 0.8788252139455897
名称: F1值
已验证: 是
验证令牌: eyJhbGciOiJFZERTQSIsInR5cCI6IkpXVCJ9.eyJoYXNoIjoiNmYyNjYxYmJmNjg3ODA1MjZmYWMxODllZGMzODI1NGFjNGU5ZTIxNGI3MWI4NWZiZDUwMDExMTE0ODEyODgyMSIsInZlcnNpb24iOjF9.a-gyRh1_YMEWnCTypkwp3w39iy5_1PmFntHszwtTISqDJtDKQsl3FYFJGzujSzllHrXl9ILFTcjLSkamvZSECw
- 类型: 损失值
值: 0.28284332156181335
名称: 损失值
已验证: 是
验证令牌: eyJhbGciOiJFZERTQSIsInR5cCI6IkpXVCJ9.eyJoYXNoIjoiNzg5ZGJiM2E4MzI1MmZkNjAyOWFlYjU2OGI0NDJiNTI3YThiNzZkMDIwMTNhZDg1NzMwNjZmNTE5NDgzYTBiMSIsInZlcnNpb24iOjF9.CPKvNWzGTwAZf0PgU-rhQYS_sFnRmrBVor4fRzDuNQjz-QtjdCPxyfWpGVsuOzuAr_u71fdFS6tGyuVpasl1Bw
bert-base-uncased-qqp
该模型是基于bert-base-uncased在GLUE QQP数据集上微调的版本。
在评估集上取得了以下结果:
- 损失值: 0.2829
- 准确率: 0.9100
- F1值: 0.8788
- 综合得分: 0.8944
模型描述
需要更多信息
预期用途与限制
需要更多信息
训练与评估数据
需要更多信息
训练过程
训练超参数
训练过程中使用了以下超参数:
- 学习率: 2e-05
- 训练批次大小: 32
- 评估批次大小: 8
- 随机种子: 42
- 优化器: Adam,参数为betas=(0.9,0.999),epsilon=1e-08
- 学习率调度器类型: 线性
- 训练轮数: 3.0
训练结果
训练损失 |
轮次 |
步数 |
验证损失 |
准确率 |
F1值 |
综合得分 |
0.2511 |
1.0 |
11371 |
0.2469 |
0.8969 |
0.8641 |
0.8805 |
0.1763 |
2.0 |
22742 |
0.2379 |
0.9071 |
0.8769 |
0.8920 |
0.1221 |
3.0 |
34113 |
0.2829 |
0.9100 |
0.8788 |
0.8944 |
框架版本
- Transformers 4.20.0.dev0
- Pytorch 1.11.0+cu113
- Datasets 2.1.0
- Tokenizers 0.12.1