语言:

• 英文 框架名称: tf-keras 许可证: apache-2.0 评估指标:
• 准确率 标签:
• tensorflow
• 图像分类 工具库: TensorBoard 模型索引:
• 名称: 基于EANet的图像分类 成果:
  • 任务: 类型: 基于EANet的图像分类 数据集: 名称: CIFAR100 类型: 图像 评估指标:
    • 类型: 准确率 数值: []
    • 类型: 验证损失 数值: []

基于Keras的EANet图像分类

本仓库包含模型及配套教程笔记，演示如何使用Keras实现基于EANet的图像分类。

代码贡献: 常志勇 - 原作者
HF平台整合: Drishti Sharma

核心概述

本示例实现了用于图像分类的EANet模型，并在CIFAR-100数据集上进行验证。该模型创新性地提出了"外部注意力"机制，通过两个可学习的小型共享记忆模块实现，仅需串联两个线性层和归一化层即可构建。这种设计有效替代了传统架构中的自注意力机制，其线性计算复杂度（仅隐式考虑样本间关联）显著提升了运算效率。

EANet模型实现原理

传统自注意力计算复杂度为O(dN²)（d为嵌入维度，N为图像块数量）。研究发现：多数像素仅与少量其他像素强相关，N×N注意力矩阵存在冗余。因此提出外部注意力模块，将复杂度降至O(dS*N)。由于d和S为超参数，该算法对像素数量呈线性关系。这本质上等效于图像块丢弃操作，因为图像块中包含的大量信息往往具有冗余性。