摘要
本发明公开了一种基于静动态联合的卷积神经网络剪枝方法及装置,其中方法包括:对卷积神经网络参数进行静态剪枝,筛选出权重低的参数进行剪除,优化卷积神经网络参数;在卷积神经网络训练过程中,根据输入样本的特定特征,动态评估剩余通道的重要性,对卷积神经网络参数进行动态剪枝再优化;静态剪枝联合动态剪枝,直至完成卷积神经网络剪枝。本发明将静态剪枝和动态剪枝相结合,充分利用了两种剪枝策略的互补优势,实现模型尺寸的缩减和计算效率的提升,同时尽量保持模型的性能不受损害,不仅比静态剪枝更加灵活,还比动态剪枝减少了额外的计算成本和时间开销。
技术关键词
卷积神经网络参数
动态剪枝
神经网络剪枝
优化卷积神经网络
卷积神经网络训练
通道注意力机制
静动态
非暂态计算机可读存储介质
sigmoid函数
注意力参数
剪枝策略
处理器
纹理特征
样本
模块