摘要
本发明涉及深度学习技术领域,公开了一种跨层度量的深度卷积神经网络通道剪枝方法,该方法包括:对深度卷积神经网络模型进行预训练,得到待剪枝的网络模型;根据卷积核范数的统计分布特性选取显著卷积核;基于选取出的显著卷积核对通道进行跨层度量;利用BN层全参数构建层剪枝敏感度,使用整体剪枝率对各层剪枝率进行配分;进行通道剪枝;结合知识蒸馏进行微调,本发明通过选取显著卷积核,减少非显著卷积核造成的干扰,跨层度量通道重要性,全面衡量通道在整个模型中的重要程度,使用BN层全参数对各层剪枝敏感性进行评价,配分剪枝率,避免人为设置剪枝率的主观性,对通道剪枝,运用知识蒸馏微调,获得高性能的轻量级模型。
技术关键词
度量
深度卷积神经网络
通道剪枝方法
模型预训练
深度学习技术
蒸馏
可读存储介质
滤波器
模块
存储器
处理器
指令
掩膜
计算机设备
参数
系统为您推荐了相关专利信息
深度学习模型训练
原型
生成对抗网络
水下图像数据
多尺度特征金字塔
安全隐患排查
AI算法
管理方法
高分辨率摄像头
智慧工地管理平台
电机轴承故障
智能诊断方法
频域特征提取
智能诊断系统
语义
配电设备
数据中心
预警系统
图像识别模块
多源信息融合算法