摘要
本发明提供了一种基于保秩分解与知识蒸馏的图像领域模型压缩方法、装置、设备及介质,涉及计算机领域。包括:获取待部署压缩后的学生图像处理模型的目标设备的设备参数值,根据设备参数值确定学生图像处理模型的目标参数量;按照目标参数量对预训练的教师图像处理模型执行克罗内克分解,将执行分解后的模型作为待训练的学生图像处理模型;利用样本图像以预训练的教师图像处理模型为学习目标,对待训练的学生图像处理模型进行知识蒸馏训练得到压缩后的学生图像处理模型;将待处理图像输入压缩后的学生图像处理模型得到图像处理结果,从而在保持图像处理模型表达能力的情况下,压缩图像处理模型的模型参数,节约模型部署设备的存储空间和计算资源。
技术关键词
图像处理模型
模型压缩方法
矩阵
注意力
学生
教师
蒸馏
图像嵌入
尺寸
图像分割
线性
样本
参数
模型训练模块
图像处理模块
可读存储介质
处理器