摘要
本发明提供一种基于知识迁移的自适应聚类联邦学习方法。中央服务器在每一轮训练中,服务器根据客户模型参数计算相似度矩阵,对客户端进行自适应聚类分组;对于同一组内的客户端模型参数进行加权平均聚合,得到组内模型;通过知识迁移策略,对组模型进行优化,促进不同组之间的知识共享,加快合并聚类过程;自适应聚类完成后,进行组内联邦训练。服务器将组内客户端的模型参数进行联邦平均聚合,更新组模型。将本地数据输入更新后的模型,得到预测结果;构建预测结果与真实标签之间的损失函数,以最小化损失为目标,重复训练步骤。本发明提供的训练方法能够有效解决数据异质性带来的偏差和难以收敛的问题,提升模型的个性化和泛化性能。
技术关键词
客户端
联邦学习方法
聚类
模型更新
服务器
实体
矩阵
迁移技术
正则化参数
贪心策略
阶段
数据
样本
元素
度量
标签
偏差