摘要
本申请涉及基于结构稀疏与权重重构的忆阻神经网络剪枝方法及系统。所述方法包括:初始化神经网络结构,设置模型参数,对神经网络进行初始训练,得到训练后模型;针对训练后的模型进行结构级稀疏化剪枝,得到结构级稀疏化剪枝模型;对剩余权重进行分组重构,得到基于结构稀疏与权重重构的剪枝模型;进行微调训练,以恢复模型精度,并保存最终的网络结构及模型参数。本发明通过结构化稀疏与权重重构结合;在第一阶段进行结构化剪枝提高了硬件效率,第二阶段进行权重重构以进一步提高模型稀疏性,然后对模型微调以恢复模型精度然后进行微调提高了模型精度。本发明的剪枝策略兼顾了硬件效率和精度,能够有效减少模型的精度损失,同时实现较高的硬件压缩率。
技术关键词
神经网络剪枝方法
剪枝模型
神经网络结构
精度
剪枝策略
种子
重构模块
参数
滤波器
动态
关系
聚类
通道
冗余
系统为您推荐了相关专利信息
智能化阀门
工控系统
中央控制模块
传感模块
装配设备
细胞图像分类方法
多模态特征
生物
画像
构建分类模型
知识检索方法
知识库检索系统
关键词
生成文档
实体