摘要
本发明公开了一种基于零阶梯度估计的无数据联邦蒸馏方法和系统,通过中央服务器初始化全局模型和合成图像生成器,在每个通信轮次中生成合成图像样本并传递给客户端,客户端利用本地隐私数据更新本地模型并上传预测结果。中央服务器利用零阶梯度估计技术计算生成器的梯度,更新生成器参数和全局模型参数。通过引入保真度损失、对抗损失、多样性损失和负信息熵损失,优化生成器的性能。生成器的梯度通过零阶梯度估计计算,避免了访问客户端本地模型的需求,有效保护了隐私。全局模型通过最小化知识蒸馏损失进行更新,同时,客户端通过接收集成预测结果,进一步优化本地模型。本发明的优点是:通过减少对客户端隐私数据的访问、降低通信带宽需求。
技术关键词
蒸馏方法
客户端
图像生成器
阶梯
样本
服务器
条件生成对抗网络
信息熵
参数
数据更新
通信带宽
标签
数据分布
噪声
定义
白盒
频率
系统为您推荐了相关专利信息
机器人数据处理
特征数据查找
控制策略
特征提取模块
样本