摘要
本发明公开了一种基于神经网络模型结构的聚类联邦学习方法,属于联邦学习技术领域。该方法旨在解决联邦学习中因数据异构性、系统异构性和数据漂移导致的模型性能下降问题。技术方案包括:S1.服务器首先为每个客户端初始化相同的初始模型;S2.客户端接收服务器分配的模型,进行预训练后,使用模型剪枝技术对其进行剪枝,生成剪枝后的模型和模型结构掩码;S3.客户端继续训练剪枝后的模型,并将本地模型和掩码上传至服务器;S4.服务器接收客户端上传的模型和掩码,检测客户端数据漂移,通过相似度算法进行聚类或根据模型结构的一致性确定是否需要重新聚类;本发明的优点在于能在非独立同分布数据场景下显著提升模型准确率同时能够降低聚类计算开销。
技术关键词
联邦学习方法
神经网络结构
客户端
服务器
汉明距离
模型剪枝
神经网络模型
联邦学习技术
数据分布
层次聚类算法
均值算法
聚类方法
坐标
异构
矩阵
超参数