摘要
本发明公开了一种基于类人关键学习期可塑性的流式联邦学习方法,系统和设备,客户端对各本地深度学习模型进行在线训练,并计算模型参数的费歇尔信息矩阵迹;将训练后的各本地深度学习模型及对应的费歇尔信息矩阵迹上传;服务器对各本地深度学习模型进行异步聚合,并对所有的费歇尔信息矩阵迹进行基于滞后衰减的加权聚合,得到异步流式联邦模型的联邦费歇尔信息迹;基于联邦费歇尔信息迹,判断异步流式联邦模型处于关键学习期,基于联邦费歇尔信息迹动态调节异步流式联邦模型的训练超参数并训练异步流式联邦模型,本申请通过精确度量并动态延长全局模型的关键学习期,使模型充分学习多样化的类别知识,有效缓解流式数据中的时间分布过拟合问题。
技术关键词
费歇尔信息矩阵
联邦模型
深度学习模型
联邦学习方法
超参数
服务器
客户端
动态
联邦学习系统
滑动窗口机制
批量
在线
索引
电子设备
存储器
数据
因子
处理器
系统为您推荐了相关专利信息
算法配置方法
深度强化学习
强化学习策略
超参数
决策
智能充电方法
健康状态参数值
云端服务平台
充电桩终端
深度学习模型
高效计算方法
画像
解析算法
最终用户
并行计算技术