license: apache-2.0 tags:

• 基于keras回调生成 model-index:
• name: vit_spectrogram results: []

vit_spectrogram（视觉Transformer频谱图模型）

该模型是基于google/vit-base-patch16-224-in21k预训练模型，在包含"男性"和"女性"类别的梅尔频谱图数据集上微调而成。目前仍在持续优化测试中，评估集表现如下：

• 训练损失：0.2893
• 训练准确率：87.57%
• 训练Top-3准确率：100%
• 验证损失：0.8757
• 验证准确率：93.66%
• 验证Top-3准确率：100%
• 训练轮次：1

模型描述

（待补充详细信息）

使用场景与限制

（待补充详细信息）

训练与评估数据

（待补充详细信息）

训练流程

训练超参数配置

训练采用以下超参数：

• 优化器：{ "内部优化器": { "类名": "AdamWeightDecay", "配置": { "名称": "AdamWeightDecay", "学习率": { "类名": "PolynomialDecay", "配置": { "初始学习率": 3e-05, "衰减步数": 3032, "最终学习率": 0.0, "幂次": 1.0, "循环": false, "名称": null } }, "衰减率": 0.0, "beta_1": 0.9, "beta_2": 0.999, "epsilon": 1e-08, "amsgrad": false, "权重衰减率": 0.01 } }, "动态调整": true, "初始缩放因子": 32768.0, "动态增长步数": 2000 }
• 训练精度：混合精度（mixed_float16）

训练结果

（待补充训练结果图表）

框架版本

• Transformers 4.18.0
• TensorFlow 2.4.0
• Datasets 2.0.0
• Tokenizers 0.11.6