摘要
本发明公开了一种基于联合动态剪枝的深度神经网络压缩方法,涉及神经网络压缩技术领域,该方法的步骤包括:S1、初始网络训练;S2、特征选择和动态剪枝:S3、精细化剪枝和重训练;其技术要点为:采用动态化的梯度阈值设计,使得在初步考虑剪枝时能够有针对性的进行操作和处理,结合后续依据性能评估指标进行重训练的过程,对梯度阈值做出了二次调整,在所需的情况下减少剪枝次数,以保证模型的整体性能,剪枝后的模型经过重训练,能够适应新的权重分布和连接结构,提高了模型的适应性和泛化能力,模型能够根据执行调整策略,进一步提升了模型的实用性和可部署性。
技术关键词
动态剪枝
自动编码器
剪枝方式
特征选择算法
神经网络压缩技术
指标
网络剪枝
数据
深度神经网络模型
深度学习框架
模型超参数
剪枝策略
批量
解码器