摘要
本发明提供一种电力视觉知识蒸馏方法与系统,方法包括:收集电力视觉图像数据,建立电力视觉数据集;将电力视觉数据集输入第一模型进行训练,得到教师模型;构建第二模型,将教师模型的检测框架与第二模型的骨干网络结合,构建学生模型;将电力视觉数据集同时输入教师模型与学生模型,得到输出结果,利用复合损失函数计算教师模型与学生模型输出结果间的差异度;使用反向传播算法和Adam优化器根据差异度更新学生模型的参数;通过若干轮迭代使差异度小于设定值,输出学生模型。本发明在资源消耗大大减少的前提下,得到的学生模型有着更快的计算速度、与教师模型接近的识别精度、更小的模型大小,电力视觉知识蒸馏系统适用于各种资源受限环境。
技术关键词
知识蒸馏方法
视觉数据集
学生
教师
传播算法
优化器
蒸馏系统
资源受限环境
标签
变电站环境
模型训练模块
参数
图像
电力设备
框架