摘要
本发明提供一种基于奇异值分解的联邦学习高效通信方法,所述的联邦学习高效通信方法包括:云服务器对由客户端同步更新的模型梯度采用相似性度量,利用聚类算法将客户端进行分组,以获得若干组梯度矩阵;通过奇异值分解从每组的梯度矩阵中提取共享的基向量,并依据贡献率策略保留有效的基向量矩阵;云服务器基于基向量矩阵和聚合系数进行组内梯度重构,得到重构梯度;采用异构权重感知分配策略,对各组的重构梯度进行全局聚合以更新全局梯度,并进行下一次迭代。通过将梯度投影至基向量中,实现高效的梯度压缩,从而有效减小通信开销,提高联邦学习的效率;并设计基于异构感知的组权重分配机制,优化全局模型的表现和泛化能力。
技术关键词
高效通信方法
客户端
云服务器
矩阵
重构
贡献率
权重分配机制
策略
聚类算法
异构
数据分布
度量
编码
批量
样本
代表
元素
定义
参数
系统为您推荐了相关专利信息
意图识别方法
矩阵
频段
想象脑电
半监督标签传播
数据聚类分析方法
基因
矩阵
数据分析系统
广度优先搜索
先进先出队列
LSTM神经网络
数据存储模块
IP核
加速器
监控管理方法
风电场运行数据
风电场设备
频域分析技术
重构误差