一种基于联合动态剪枝的深度神经网络压缩方法

AITNT
正文
推荐专利
一种基于联合动态剪枝的深度神经网络压缩方法
申请号:CN202410935680
申请日期:2024-07-12
公开号:CN118468968B
公开日期:2024-09-17
类型:发明专利
摘要
本发明公开了一种基于联合动态剪枝的深度神经网络压缩方法,涉及神经网络压缩技术领域,该方法的步骤包括:S1、初始网络训练;S2、特征选择和动态剪枝:S3、精细化剪枝和重训练;其技术要点为:采用动态化的梯度阈值设计,使得在初步考虑剪枝时能够有针对性的进行操作和处理,结合后续依据性能评估指标进行重训练的过程,对梯度阈值做出了二次调整,在所需的情况下减少剪枝次数,以保证模型的整体性能,剪枝后的模型经过重训练,能够适应新的权重分布和连接结构,提高了模型的适应性和泛化能力,模型能够根据执行调整策略,进一步提升了模型的实用性和可部署性。
技术关键词
动态剪枝 自动编码器 剪枝方式 特征选择算法 神经网络压缩技术 指标 网络剪枝 数据 深度神经网络模型 深度学习框架 模型超参数 剪枝策略 批量 解码器
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号