摘要
基于统计特征匹配的一次通信联邦学习方法和装置,该方法包括以下步骤:系统由多个参与方组成,每个客户端拥有各自独立的本地数据和标签,且客户端之间的数据分布不满足独立同分布假设;在客户端,首先初始化本地模型,并利用本地数据进行多轮迭代训练。完成模型预训练后,客户端将模型参数上传至服务器;在服务器端,通过集成模型计算全局统计特征,并初始化全局模型参数和生成器参数;在数据生成阶段,服务器利用生成器生成合成数据,并通过结合批归一化统计量和卷积层统计量优化生成器参数,从而生成高质量的合成数据;在全局模型优化阶段,服务器通过知识蒸馏利用生成的合成数据提升全局模型的性能;服务器循环执行合成数据生成和全局模型优化两个阶段,直至全局模型逐渐收敛。本发明能够显著提升全局模型性能,同时仅需一次客户端与服务器的通信,大幅降低通信成本,适合大规模应用。
技术关键词
联邦学习方法
统计特征
客户端
服务器
参数
卷积特征
数据分布
损失函数优化
模型预训练
阶段
标签
学习装置
噪声
处理器
蒸馏
可读存储介质
存储器
程序
通道
系统为您推荐了相关专利信息
三维场景数据
光谱成像
辐亮度参数
仿真模型
图像生成方法
集成式控制系统
智能吉他
深度神经网络算法
灵敏度参数
抑制环境噪声
真空度检测方法
激光诱导击穿光谱
SVR模型
寻峰算法
网格搜索算法