一种基于输出宽度维持的层自适应渐进剪枝方法及系统

本发明公开一种基于输出宽度维持的层自适应渐进剪枝方法及系统，涉及深度神经网络技术，针对现有技术中剪枝技术不足提出本方案。先确定基线模型的待剪层，然后每个待剪层被替换为带有旁路补偿的稀疏模块来构建出后续用于剪枝的目标模型；每个稀疏模块由基线模型的待剪层和一条轻量旁路组成，然后在训练开始前分别对稀疏路径和旁路的权重进行初始化；在目标压缩率约束下，利用层自适应渐进剪枝策略学习剪枝掩膜来渐进地修剪目标模型，直至完成最后一次剪枝循环；根据剪枝掩膜，执行真正的剪枝，获得满足目标压缩率的剪枝模型，然后继续训练该剪枝模型至收敛，以获得最终的推理模型。优点在于，能够为特定层探索高剪枝率，提高了剪枝模型的性能。