摘要
本发明公开了一种基于掩码特征重建的图像分类自蒸馏方法,包括:对输入图像预处理后划分训练集和验证集,并增强训练集;将预处理后的图像输入残差神经网络,获取残差块浅、深层阶段输出的特征及残差神经网络的预测输出,使用卷积对特征进行下采样;将下采样后的特征与随机掩码进行元素点积来获得掩码特征;采用基于卷积的生成器和基于感知机的生成器对掩码特征重建,并获得重建特征的预测输出;将分类损失和重建损失结合构建自蒸馏损失函数;将增强后训练集中的图像输入残差神经网络,按照自蒸馏损失函数进行反向传播训练,并用验证集验证,保存最佳网络权重和每一个训练轮次的网络权重。本发明实现了网络性能的提升,并保持了较高的训练效率。
技术关键词
残差神经网络
蒸馏方法
图像
线性分类器
标签
残差结构
训练集
元素
阶段
优化器
数据
坐标
参数
尺寸