摘要
本发明提供一种无数据的联邦知识蒸馏聚合方法,通过服务器和多个客户端组成的联邦学习框架处理模型的知识蒸馏和聚合过程:当客户端参与模型训练时,在本地使用数据集与轻量级传递模型共同训练本地模型,并将本地模型的知识通过训练过程反馈给传递模型,由服务器执行全局模型聚合和传递模型的知识蒸馏,将全局模型和蒸馏结果返回给客户端;在所述知识蒸馏和聚合过程中,客户端和服务器之间不依赖任何公共数据集;客户端利用传递模型辅助本地模型的训练,并通过对传递模型执行知识蒸馏以获取其他客户端的模型知识;当本地模型完成一轮训练后,服务器通过计算不同传递模型输出逻辑值的平均,生成用于蒸馏的数据,并发送回客户端。
技术关键词
客户端
蒸馏
服务器
数据
非暂态计算机可读存储介质
阶段
输入结构
超参数
处理器
通信模块
存储器
逻辑
样本
算法
动态
电子设备
框架
策略
程序
系统为您推荐了相关专利信息
导频符号
OFDM符号
估计补偿方法
信号
补偿值
避让方法
生成流
中央调度系统
微分进化算法
RGV小车
巡检路径规划方法
无人机集群
城市安防系统
设备状态信息
实时状态信息
多协议通信方法
现场总线信号
现场总线接口
处理器模块
芯片模块