一种基于ResNet18残差神经网络自蒸馏训练方法

本发明公开了一种基于ResNet18残差神经网络自蒸馏训练方法，其包括残差神经网络ResNet18、注意力模块与浅层模块，构建多个分类器搭建自蒸馏框架；同时使用已完成普通训练的ResNet18网络搭建联合训练框架，充分利用网络内外部的“知识”，提高神经网络的分类性能，本发明以残差神经网络ResNet18为基础，额外引入注意力模块、浅层模块构建多个分类器搭建自蒸馏框架，然后使用另一个已经完成普通训练的ResNet18残差网络来指导自蒸馏框架进行训练。整个训练过程可以全面利用网络内外部知识，提升蒸馏效果，进而提高ResNet18网络的分类精度。