摘要
本发明公开了一种增强特征表达能力的自知识蒸馏方法,该方法充分利用了金字塔结构的优势,通过在不同层级上引入子网络进行蒸馏,实现了对目标网络特征信息的全面精炼。这种设计使得深层特征的表现得到了大幅提升,同时保留了浅层特征的表征能力,从而提高了目标网络的整体性能。本发明进行了大量的对比实验和消融实验。实验结果表明,本方法在提高特征表达能力上具有显著优势,其性能超过了许多经典的蒸馏算法。
技术关键词
知识蒸馏方法
网络特征
金字塔结构
标签
特征值
通道
参数
层级
学生
矩阵
代表
算法
尺寸
系统为您推荐了相关专利信息
监督深度学习方法
原始图像数据
深度神经网络模型
图像数据生成器
样本
车辆追踪方法
路侧设备
神经网络模型
车载单元
路径地图
合同文本数据
风险预测方法
最大化算法
标签
上下文特征