摘要
本发明公开一种基于剪枝和双向量化的动态聚合联邦学习系统,包括:一组客户端及一个服务器;客户端将服务器下发的全局量化权重作为局部模型的权重向量,对局部模型进行训练,对训练好的权重向量进行剪枝,并计算对应客户端的贡献值及量化梯度,并上传至服务器;服务器将贡献值作为聚合权重,更新全局模型的全局权重向量,将全局权重向量进行量化,获得全局量化权重,下发至各个客户端,客户端进行下一轮训练,直至全局模型收敛或者达到所需精度。客户端通过剪枝和量化方法构造轻量级局部模型,显著减少了传输的参数量;服务器采用动态权重分配策略,根据客户端的数据规模和相关性优化参数聚合,降低偏差参数所占权重,加快全局模型收敛速率。
技术关键词
联邦学习系统
客户端
服务器
模型剪枝
动态权重分配
精度
参数
样本
总量
规模
数据
策略
偏差
速率
系统为您推荐了相关专利信息
害虫检测方法
诱虫灯设备
网络摄像头
害虫图像
通道注意力机制
资源推荐模型
资源特征
资源推荐方法
资源推荐装置
客户端
数据存储服务
数据管理服务
合并算法
数据引擎系统
键值
监拍装置
时效性
图像传输方法
接入点
网络测试工具