摘要
本发明涉及一种手写数字识别模型的持续学习方法和装置,该方法包括:根据有标注数据集训练生成主识别模型,以及从有标注数据集中挑选出被主识别模型识别错误的图像样本;根据错误样本训练集训练生成辅助识别模型,并将主识别模型和能够与其性能互补的辅助识别模型进行级联,得到教师模型;基于伪标签集和真实标签集,利用教师模型指导学生模型进行训练,得到蒸馏后的学生模型;在蒸馏后的学生模型的识别性能达到教师模型的识别性能的情况下,将主识别模型替换为蒸馏后的学生模型,并返回模型训练级联步骤并等待新一轮无标注数据集来进行持续学习,从而不仅赋予了智能模型的持续自我学习能力,还达到了克服“灾难性遗忘”现象的目的。
技术关键词
持续学习方法
样本
分类器
学生
教师
蒸馏
学习装置
级联
数据
输出模块
训练集
编码
图像
标签
智能模型
参数
系统为您推荐了相关专利信息
敏感数据检测方法
双编码器
联合检测模型
文本
多模态
生成方法
深度学习方法
图像
样本
构建机器学习模型
人脸图像特征
人脸图像序列
图像生成模型
样本
视频