摘要
本说明书公开了一种基于最小熵的高精度大比例结构化网络压缩方法,属于深度模型压缩技术领域,包括搭建最小熵剪枝框架;所述最小熵剪枝框架的基网络与被剪枝网络并联,且基网络和被剪枝网络的输出分别输入MSE损失函数模块和判别器;基于最小熵剪枝框架,构建优化目标函数;对优化目标函数进行迭代优化,获得被剪枝网络的软掩码;基于软掩码和模型结构的剪枝选择进行模型剪枝,获得剪枝后的模型,以解决目前结构化剪枝方法存在效率低、灵活性差以及使用场景单一化的问题。
技术关键词
网络压缩方法
样本
模型剪枝
参数
因子
框架
随机梯度下降
剪枝方法
模型压缩
阈值算法
分支
图像
通道
数据
模块
场景
系统为您推荐了相关专利信息
轮廓波变换
图像水印嵌入方法
掩膜矩阵
载体
图像水印提取方法
优化控制方法
机械臂
深度学习网络
神经网络训练方法
方程