基于熵驱动的联邦学习通信方法

AITNT
正文
推荐专利
基于熵驱动的联邦学习通信方法
申请号:CN202510236452
申请日期:2025-02-28
公开号:CN120106254A
公开日期:2025-06-06
类型:发明专利
摘要
本发明提出了一种基于熵驱动的联邦学习通信方法,实现步骤为:初始化联邦学习通信场景;每个客户端对本地模型进行迭代训练;每个客户端基于熵对本地模型的权重参数进行压缩并计算补偿信息;中央服务器对压缩后的参数进行信息补偿;中央服务器获取联邦学习通信结果。本发明每个客户端通过对本地模型的权重参数进行奇异值分解,并基于熵截断分解后的矩阵,实现对权重参数的压缩,避免了固定截断阈值导致的压缩率限制,降低了联邦学习通信的开销,且通过客户端本地模型参数与压缩参数的差异矩阵计算的补偿信息,能够修正压缩后信息损失较大的区域,避免了因过度关注减少传输参数量而忽视潜在信息损失的缺陷,确保参数压缩后模型仍具有较高的精度。
技术关键词
参数 矩阵 服务器 特征提取模块 滤波器 通信方法 卷积神经网络模型 随机梯度下降 截断方法 客户端设备 训练样本集 场景 级联 层叠 密度 图像 度量 标签
系统为您推荐了相关专利信息
1
一种广告智能制作系统
广告智能制作系统 关键词 点击率 输入模块 图像生成单元
2
针对电网多源异构数据的双模型保护行为辨识方法、装置、处理器及其计算机可读存储介质
多源异构数据 XGBoost模型 电网保护 辨识方法 计算机可执行指令
3
一种工业循环水系统节能优化方法及系统
循环水冷却设备 集成学习模型 冷却塔风机 子模块 能耗
4
图神经网络框架融合空间交互与环境的通勤流预测方法
神经网络框架 流预测方法 手机位置数据 语义 融合多源信息
5
一种会议预约发布系统及会议室调配方法
会议室 发布系统 Word2Vec模型 数据储存模块 主题
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号