语言: fr
许可证: mit
标签:

• 由keras回调生成
  模型索引:
• 名称: camembert-sentiment-allocine
  结果: []
  数据集:
• allocine
  评估指标:
• 准确率

camembert-sentiment-allocine

该模型是基于allocine数据集对camembert-base进行微调的版本。

预期用途与限制

此模型仅训练了一个周期，用于测试目的。

训练过程

该模型是通过微调TensorFlow版本的camembert-base冻结编码器部分后创建的：

model.roberta.trainable = False  

因此，训练过程中仅更新了分类器头的参数。

训练超参数

训练过程中使用了以下超参数：

- 优化器: {
     'name': 'Adam', 
     'learning_rate': {
         'class_name': 'PolynomialDecay', 
         'config': {'initial_learning_rate': 5e-05, 'decay_steps': 15000, 'end_learning_rate': 0.0, 'power': 1.0, 'cycle': False, 'name': None}
      }, 
      'decay': 0.0, 
      'beta_1': 0.9, 
      'beta_2': 0.999, 
      'epsilon': 1e-07, 
      'amsgrad': False
}
- 训练精度: float32
- 训练周期数: 1

训练结果

模型在测试集上取得了以下结果：

框架版本

• Transformers 4.22.2
• TensorFlow 2.8.2
• Datasets 2.5.2
• Tokenizers 0.12.1