摘要
本发明公开了一种基于扩散模型的联邦持续学习方法,包括如下步骤:步骤1、服务器分发参数至各个客户端;步骤2、客户端分割本地真实数据为训练集和验证集,并更新模型参数;步骤3、若当前任务是初始任务,训练本地分类器,之后转至步骤6,若当前任务不是初始任务,客户端合成历史数据;步骤4、将合成数据与本地真实数据混合;步骤5、使用交叉熵损失和kl散度训练本地分类器;步骤6、依据验证集结果保存本地分类器参数;步骤7、训练扩散模型;步骤8、客户端训练结束,将参数上传到服务器。步骤9、服务端先对模型参数进行平均聚合。再用所有本地合成样本,训练分类器。步骤10、训练结束。该方法提高联邦系统的准确率和减轻遗忘以前知识。
技术关键词
持续学习方法
客户端
分类器参数
训练分类器
样本
标签类别
服务器
服务端
更新网络参数
解码器
更新模型参数
分类器模型
训练集数据
噪声
模块
系统为您推荐了相关专利信息
监督学习模型
点识别方法
无标签样本
编码器
特征提取单元
参数预测方法
阳极氧化
注意力机制
生成对抗网络
样本
分类方法
注意力机制
线性
非暂态计算机可读存储介质
多层感知机
客户端
狄利克雷分布模型
联邦学习系统
满意度函数
随机梯度下降