摘要
本发明涉及一种引入模型知识的合成回放在线类增量持续学习方法,该方法为接收新任务样本并下采样存入,再进行合成样本的初始化;使用数据集蒸馏更新合成样本,损失为梯度匹配和关系匹配损失,同时更新合成模型参数;分两阶段训练分类模型:第一阶段学习新任务样本和采样的缓存区样本,第二阶段学习缓存区的全部样本。两个阶段均使用软标签蒸馏的方式学习合成模型的知识以提升分类模型的可塑性;分类模型完成增量任务学习后,测试平均分类精度。本发明通过知识蒸馏技术引入合成模型的知识,能够有效增强分类模型的可塑性,并对模型稳定性与可塑性进行合理权衡,提升平均分类精度。
技术关键词
持续学习方法
样本
分类模型训练
在线
双三次插值
蒸馏方法
知识蒸馏技术
训练分类模型
精度
数据
标签
特征提取器
上采样
参数
阶段
关系
像素
图像
多项式
系统为您推荐了相关专利信息
识图技术
图像识别模型
轻量级卷积神经网络
天气
胶囊网络
智能推荐系统
智慧图书馆
书籍
注意力模型
非线性
局部放电检测系统
智能环网柜
放电发生器
环网柜局部放电
数据采集模块
时序预测方法
分解特征
微震事件
集合经验模态分解
随机采样方法