摘要
本发明提出了一种基于熵驱动的联邦学习通信方法,实现步骤为:初始化联邦学习通信场景;每个客户端对本地模型进行迭代训练;每个客户端基于熵对本地模型的权重参数进行压缩并计算补偿信息;中央服务器对压缩后的参数进行信息补偿;中央服务器获取联邦学习通信结果。本发明每个客户端通过对本地模型的权重参数进行奇异值分解,并基于熵截断分解后的矩阵,实现对权重参数的压缩,避免了固定截断阈值导致的压缩率限制,降低了联邦学习通信的开销,且通过客户端本地模型参数与压缩参数的差异矩阵计算的补偿信息,能够修正压缩后信息损失较大的区域,避免了因过度关注减少传输参数量而忽视潜在信息损失的缺陷,确保参数压缩后模型仍具有较高的精度。
技术关键词
参数
矩阵
服务器
特征提取模块
滤波器
通信方法
卷积神经网络模型
随机梯度下降
截断方法
客户端设备
训练样本集
场景
级联
层叠
密度
图像
度量
标签
系统为您推荐了相关专利信息
广告智能制作系统
关键词
点击率
输入模块
图像生成单元
多源异构数据
XGBoost模型
电网保护
辨识方法
计算机可执行指令
循环水冷却设备
集成学习模型
冷却塔风机
子模块
能耗
神经网络框架
流预测方法
手机位置数据
语义
融合多源信息
会议室
发布系统
Word2Vec模型
数据储存模块
主题