摘要
本申请涉及一种联邦学习系统的动态梯度压缩学习方法,属于人工智能领域。该方法包括:构建联邦学习模型,服务器分配不同采样通信带宽至客户端,客户端训练后得到本地模型;考虑每个客户端本地模型的资源约束和梯度状态,计算本轮动态梯度压缩策略的剪枝率和量化等级;根据剪枝率,每个客户端对自身的梯度进行稀疏化操作,得到稀疏化后的梯度;根据量化等级,每个客户端对稀疏化后的梯度进行量化和编码操作,得到压缩后的梯度数据;每个客户端将压缩后的梯度数据上传至服务器,服务器对其进行解压,得到解压的梯度数据;服务器将解压的梯度数据按元素聚合并更新全局模型,直到模型收敛。本申请实现在资源受限场景下性能更优的高效通信联邦学习。
技术关键词
掩码矩阵
联邦学习系统
服务器
通信带宽
索引
联邦学习模型
数值
学习方法
符号
客户端设备
元素
编码
霍夫曼解码
码表
动态
策略
数据通信
系统为您推荐了相关专利信息
风险评估方法
农药残留检测
网络拓扑数据
递归神经网络
卷积模型
车辆行驶数据
疲劳驾驶提醒方法
疲劳驾驶检测
个性化场景
香氛
联邦学习系统
动态社区
拍卖系统
动态激励方法
训练系统
特性检测系统
人体经络数据
成像模块
检测仪
特性检测方法