摘要
本发明属于联邦学习技术应用领域,具体涉及一种基于多粒度计算单元的个性化联邦学习方法,包括:在粗粒度层面将全局客户端作为计算单元,每个客户端计算出每个簇的隶属度,进而投票选出自己的所属簇,初步将相似数据分布情况的客户端聚合在一起;在中等粒度层面将客户端集群作为计算单元,动态地整合簇模型和客户端模型;在细粒度层面将单客户端作为计算单元,通过调整神经网络不同层在联邦流程中的计算参与度,并采用了稀疏权重激活训练方式,通过在前向和后向传播中执行稀疏卷积,加快个性化联邦学习的实现。本发明提出的方法从多粒度计算单元的角度,在数据异构的场景下,有效地提高了客户端模型的性能,并减少了联邦训练的计算开销。
技术关键词
客户端
联邦学习方法
数据分布
元素
服务器
联邦学习技术
联邦学习系统
集群
神经网络训练
随机梯度下降
深度神经网络
超参数
定义
基础
样本
模块
动态地
系统为您推荐了相关专利信息
无人驾驶矿车
车载电子控制设备
历史运行数据
救援方法
远程控制服务器
对象
页面展示数据
信息推送方法
计算机执行指令
人工智能技术
时间序列预测方法
分块
多层次
滑动窗口机制
多尺度
云端服务器
客户端
知识蒸馏方法
智能交通技术
数据