一种基于同构分组的深度模型自动结构化剪枝方法

AITNT
正文
推荐专利
一种基于同构分组的深度模型自动结构化剪枝方法
申请号:CN202510830586
申请日期:2025-06-20
公开号:CN120725085A
公开日期:2025-09-30
类型:发明专利
摘要
基于同构分组的深度模型自动结构化剪枝方法,包括以下步骤:1)引入统一的评估框架,扩展方法到多种视觉模型架构,进行归一化评估;2)通过依赖图自动分解神经网络为最小可剪枝子结构,基于图同构检测将子结构划分为同构组,按同构组独立进行重要性评估与剪枝;3)基于几何中值和特征重建协同的剪枝算法进行迭代式结构化剪枝,控制模型复杂度;4)对剪枝后的模型进行微调训练恢复性能;5)生成微调后模型性能结果图像。所述方法通过标准化的评估流程,对主流结构剪枝算法在多种模型结构和任务中进行系统评估,支持多种剪枝阶段(稀疏化阶段与剪枝阶段)方法的接入。本发明能够自动地分析复杂的模型结构耦合,从而正确地移除参数,在此基础上使用同构分组方法克服了传统全局排序中因结构异质性导致的偏差问题。
技术关键词
剪枝方法 驱动特征 正则化策略 剪枝模型 稀疏训练方法 剪枝策略 滤波器 剪枝装置 超参数 预训练模型 神经网络模型 重构误差 复杂度 数据 基准 算法 阶段 动态
系统为您推荐了相关专利信息
1
一种面向资源受限设备的大语言模型推理优化方法及系统、装置、介质
面向资源受限 内存 注意力 生成候选词 键值
2
基于人工智能的材料性能预测与标准化方法及系统
材料性能预测 标准化方法 深度神经网络 可解释人工智能 材料数据库
3
一种融合模型驱动与数据驱动的成像质量评价方法
驱动特征 融合数据驱动 影像 多尺度特征提取 评价方法
4
基于残差特征提取和对比驱动聚合的遥感图像分割方法
遥感图像分割方法 图像分割模型 驱动特征 语义特征 输出特征
5
一种基于斥力范围约束的机械臂路径规划方法
节点 人工势场 障碍物 随机采样方法 路径规划效率
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号