摘要
基于同构分组的深度模型自动结构化剪枝方法,包括以下步骤:1)引入统一的评估框架,扩展方法到多种视觉模型架构,进行归一化评估;2)通过依赖图自动分解神经网络为最小可剪枝子结构,基于图同构检测将子结构划分为同构组,按同构组独立进行重要性评估与剪枝;3)基于几何中值和特征重建协同的剪枝算法进行迭代式结构化剪枝,控制模型复杂度;4)对剪枝后的模型进行微调训练恢复性能;5)生成微调后模型性能结果图像。所述方法通过标准化的评估流程,对主流结构剪枝算法在多种模型结构和任务中进行系统评估,支持多种剪枝阶段(稀疏化阶段与剪枝阶段)方法的接入。本发明能够自动地分析复杂的模型结构耦合,从而正确地移除参数,在此基础上使用同构分组方法克服了传统全局排序中因结构异质性导致的偏差问题。
技术关键词
剪枝方法
驱动特征
正则化策略
剪枝模型
稀疏训练方法
剪枝策略
滤波器
剪枝装置
超参数
预训练模型
神经网络模型
重构误差
复杂度
数据
基准
算法
阶段
动态
系统为您推荐了相关专利信息
材料性能预测
标准化方法
深度神经网络
可解释人工智能
材料数据库
驱动特征
融合数据驱动
影像
多尺度特征提取
评价方法
遥感图像分割方法
图像分割模型
驱动特征
语义特征
输出特征
节点
人工势场
障碍物
随机采样方法
路径规划效率