一种模型剪枝方法、装置、电子设备和存储介质

AITNT
正文
推荐专利
一种模型剪枝方法、装置、电子设备和存储介质
申请号:CN202411636490
申请日期:2024-11-15
公开号:CN119578493A
公开日期:2025-03-07
类型:发明专利
摘要
本发明公开了一种模型剪枝方法、装置、电子设备和存储介质。其中,该方法包括:对嵌入了混合注意力模块的目标剪枝模型进行模型训练,得到中间决策模型;根据中间决策模型中第二目标剪枝层的通道注意力权重和空间注意力权重,对目标剪枝模型中的第一目标剪枝层进行剪枝处理,得到目标剪枝模型对应的目标剪枝优化模型;其中,第一目标剪枝层和第二目标剪枝层一一对应。本方案通过在目标剪枝模型中嵌入通道注意力模块和空间注意力模块,综合考虑通道和空间位置两个维度的信息,能够更准确地识别出对模型精度至关重要的通道和空间位置,同时保留了更广泛的上下文特征关系,实现更全面且更精确的剪枝效果,从而有效保证剪枝后的模型精度。
技术关键词
剪枝模型 注意力 模型剪枝方法 通道剪枝 决策 模块 电子设备 上下文特征 可读存储介质 计算机 精度 处理器通信 存储器 指令 矩阵 标识 元素
系统为您推荐了相关专利信息
1
一种基于ORCA模型的社会小团体行为运动仿真方法
运动仿真方法 邻居 Unity3D引擎 OCEAN模型 静态障碍物
2
一种动态生成手机银行活动集合页的方法
生成手机 兴趣 节点 排序算法 矩阵
3
针对社会从众效应的脑网络分析方法、装置、设备及介质
广义线性模型 大脑结构 决策 动态神经网络 网络分析方法
4
一种防洪预案确定方法、装置、电子设备及存储介质
洪水预测模型 水利 自然语言 数据 逻辑
5
一种行星环境下的自动化植物农场控制系统
中央控制系统 环境监控系统 植物栽培舱 收割系统 光源控制设备
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号