一种基于异构联邦学习的自适应聚合系统及方法

本发明公开的一种基于异构联邦学习的自适应聚合系统及方法，属于分布式计算技术领域，应用于个性化联邦学习的异构性传输。本发明实现方法为：1、对拆分为基础层与头部层的客户端配置优化器与调度器，并对头部层的自适应聚合参数进行初始化；2、对客户端的头部层与基础层进行训练，通过客户端优化器获取头部层与基础层的更新参数，进而获得获取客户端本地模型的输出预测值；3、利用输出预测值和全局模型副本计算模型输出的概率分布与信息熵；4、由服务器端对来自各客户端参数进行加权聚合，并计算服务器的全局模型参数；与现有技术相比，本发明解决了联邦学习的个性化训练目标与全局对齐目标冲突导致局部模型的收敛速率下降的技术问题。