许可证：apache-2.0
标签：

• int8
• Intel® Neural Compressor
• 训练后静态量化
  数据集：
• imagenet-1k
  评估指标：
• 准确率

基于imagenet-1k微调的vit-base-patch16-224 INT8量化模型

训练后静态量化

这是一个使用Intel® Neural Compressor量化的INT8 PyTorch模型。

原始FP32模型源自微调后的google/vit-base-patch16-224。

校准数据加载器采用训练集数据加载器。由于imagenet-1k包含1000个类别，默认校准采样量为1000。

线性模块vit.encoder.layer.5.output.dense和vit.encoder.layer.9.attention.attention.query.module回退至FP32精度，以将相对准确率损失控制在1%以内。

评估结果

通过Intel® Neural Compressor加载：

from neural_compressor.utils.load_huggingface import OptimizedModel  
int8_model = OptimizedModel.from_pretrained(  
    'Intel/vit-base-patch16-224-int8-static',  
)