🚀 胸部X光肺炎分类视觉变换器模型

本模型用于胸部X光图像的肺炎分类，基于预训练模型微调而来，在评估集上表现出色，能高效准确地识别肺炎与正常的胸部X光影像，为医疗诊断提供有力支持。

🚀 快速开始

本模型是 google/vit-base-patch16-224-in21k 在胸部X光分类数据集上的微调版本。 它在评估集上取得了以下结果：

• 损失值：0.0868
• 准确率：0.9742

💻 使用示例

基础用法

from transformers import pipeline

classifier = pipeline(model="lxyuan/vit-xray-pneumonia-classification")

# 图像取自 https://www.news-medical.net/health/What-is-Viral-Pneumonia.aspx
classifier("https://d2jx2rerrg6sh3.cloudfront.net/image-handler/ts/20200618040600/ri/650/picture/2020/6/shutterstock_786937069.jpg")

>>>
[{'score': 0.990334689617157, 'label': 'PNEUMONIA'},
 {'score': 0.009665317833423615, 'label': 'NORMAL'}]

📚 详细文档

训练过程

笔记本链接：点击查看

训练超参数

训练过程中使用了以下超参数：

• 学习率：5e-05
• 训练批次大小：16
• 评估批次大小：16
• 随机种子：42
• 梯度累积步数：4
• 总训练批次大小：64
• 优化器：Adam（β1 = 0.9，β2 = 0.999，ε = 1e-08）
• 学习率调度器类型：线性
• 学习率调度器预热比例：0.1
• 训练轮数：15

from transformers import EarlyStoppingCallback

training_args = TrainingArguments(
    output_dir="vit-xray-pneumonia-classification",
    remove_unused_columns=False,
    evaluation_strategy="epoch",
    save_strategy="epoch",
    logging_strategy="epoch",
    learning_rate=5e-5,
    per_device_train_batch_size=16,
    gradient_accumulation_steps=4,
    per_device_eval_batch_size=16,
    num_train_epochs=15,
    save_total_limit=2,
    warmup_ratio=0.1,
    load_best_model_at_end=True,
    metric_for_best_model="eval_loss",
    greater_is_better=False,
    fp16=True,
    push_to_hub=True,
    report_to="tensorboard"
)

early_stopping = EarlyStoppingCallback(early_stopping_patience=3)

trainer = Trainer(
    model=model,
    args=training_args,
    data_collator=data_collator,
    train_dataset=train_ds,
    eval_dataset=val_ds,
    tokenizer=processor,
    compute_metrics=compute_metrics,
    callbacks=[early_stopping],
)

训练结果

框架版本

• Transformers 4.30.2
• Pytorch 1.9.0+cu102
• Datasets 2.12.0
• Tokenizers 0.13.3

📄 许可证

本模型采用 Apache-2.0 许可证。