摘要
本发明公开了基于线性注意力和知识蒸馏的图像恢复方法,涉及数据处理技术领域,包括:获取样本图像数据集,基于样本图像数据集进行迭代训练,获得训练完成的教师网络;利用训练完成的教师网络对学生网络进行知识蒸馏,并利用学生网络训练损失函数对学生网络的参数进行调整,直至满足预设条件,获得训练完成的学生网络,利用学生网络对图像进行恢复。本发明解决现有技术中图像恢复过程中计算复杂度高、模型训练效率低的技术问题,通过利用教师网络进行知识蒸馏,使得学生网络能够在保持较低计算复杂度的同时,模仿教师网络的特征表示,提高图像恢复的效果,达到提升图像恢复质量,同时减少计算资源的消耗,增强模型的应用性和效率的技术效果。
技术关键词
图像恢复方法
输出特征
教师
学生
训练样本集
注意力
蒸馏
后处理模块
线性
梯度下降算法
视觉
训练数据量
参数
数据处理技术
网络特征
系统为您推荐了相关专利信息
在线智能检测方法
震动传感器阵列
神经网络模型
特征提取网络
特征提取模块
语音识别优化系统
中间层
动态温度调节
语音特征
蒸馏
行人属性识别方法
激活方法
输出特征
代表
行人属性识别系统
控制器模块
判定方法
RFID标签
预警模块
安装监控设备