一种基于联邦学习的扩散蒸馏与自蒸馏集成优化方法及装置

本发明属于联邦学习技术领域，提供一种基于联邦学习的扩散蒸馏与自蒸馏集成优化方法及装置。该方法包括：客户端接收服务器下发的第一全局模型和第一全局特征，并基于第一全局模型的参数初始化本地模型，利用第一全局特征训练扩散模型；客户端提取出第一本地特征进行对齐后输入扩散模型获得第二本地特征，并计算扩散蒸馏损失；客户端利用扩散蒸馏损失对第一本地模型进行训练，获得第二本地模型后计算自蒸馏损失；客户端计算本地模型的总损失并训练第一本地模型，获得第三本地模型；将每个客户端的第三本地模型和对应的本地特征上传至服务器后全局聚合获得第二全局模型，将第二全局模型和第二全局特征分发至各个客户端，以进行下一轮次的联邦学习。