摘要
本发明公开了一种基于投影梯度上升的联邦遗忘方法及系统,属于机器学习技术领域,包括获取联邦中的N个客户端和中央服务器信息,使用联邦加权聚合学习算法对联邦进行T轮训练;对各客户端进行数据蒸馏,得到蒸馏数据集;获取联邦全局模型和遗忘客户端在T‑1轮的本地模型,在遗忘客户端上求取参考模型;客户端优化位于参考模型周围半径为δ的l2范数球中的参数;将联邦全局模型发送给所有客户端,对遗忘客户端和剩余客户端进行相反的训练策略;重新聚合遗忘客户端和剩余客户端本地模型;直到完成E轮训练,得到最终的联邦遗忘模型。解决分布式知识渗透致非分布式机器遗忘法难用于联邦学习,及联邦遗忘梯度上升致灾难性遗忘问题。
技术关键词
客户端
联邦学习模型
服务器
梯度下降算法
学习算法
数据
模块
分布式机器
蒸馏
深度学习训练
机器学习技术
小规模
梯度下降法
训练算法
参数
拷贝
策略
因子
样本
系统为您推荐了相关专利信息
康复机器人
逆运动学
全局优化算法
优化触发机制
关节
生理
监测方法
穿戴式
卷积神经网络模型
线性回归模型
电量预测模型
煤价预测
识别方法
检测火电机组
企业
传输特征
资源分配方法
动态神经网络
时延
服务器