摘要
本发明公开了一种基于时空数据蒸馏的异构联邦学习方法,用于解决相关技术未能充分解决知识保留的时间问题,导致在训练新的全局模型时发生知识遗忘,同时未充分考虑每个客户端数据的独特时空特征,使得联邦学习的效率和收敛性较差的问题。服务器端接收各个客户端发送的基于本地数据进行编码后获得的本地编码数据进行无数据全局蒸馏,获得第一全局模型,将其分发至各个客户端;客户端根据本地数据和第一全局模型,结合动态温度调整优化进行部分参数局部蒸馏和非真实时间蒸馏,生成本地模型发回服务器端;服务器端根据各个本地模型,通过无数据全局蒸馏策略更新第一全局模型,获得第二全局模型,将其分发至各个客户端,以进行下一轮次训练。
技术关键词
蒸馏
联邦学习方法
客户端
联邦学习系统
异构
数据
特征提取模块
生成器网络
策略更新
存储程序代码
动态
学生
学习装置
参数
元学习方法
教师
可读存储介质
编码
模型更新
系统为您推荐了相关专利信息
多源异构数据
图谱
预训练语言模型
编织模式
匈牙利算法
皮尔逊相关系数
数据分析模块
服务器
数据管理系统
建立网络通信
智能分析模块
数据采集模块
管片椭圆度
多源异构数据
隧道管片
缺陷率预测模型
缺陷预测方法
芯片缺陷检测
制程
样本