摘要
本发明提供了一种基于知识蒸馏和锐度感知最小化的个性化联邦学习方法。该方法包括:服务器生成全局共享无标签伪数据集,并下发给各个客户端;客户端利采用锐度感知最小化方法对本地模型进行优化,得到优化后的本地模型wc;客户端利用本地数据集和无标签伪数据集生成本地知识,服务器对各个客户端的本地知识中的logits依据权重系数进行加权运算得到全局将由全局原型p和全局构成的全局知识下发给各个客户端;客户端根据本地logits和全局知识中的全局对本地模型wc进行更新。本发明利用无标签伪数据集作为公共数据集进行知识蒸馏,就能够实现良好的性能。服务器利用权重对本地知识进行聚合,以获得高质量的全局知识,用于提升本地模型性能。
技术关键词
客户端
原型
最小化方法
样本
标签
联邦学习方法
服务器
数据
特征提取器
分类器
蒸馏
参数
模型更新
噪声
代表
误差
系统为您推荐了相关专利信息
追踪管理系统
追踪管理方法
云端服务器
问答知识库
客户端
反演模型
回波
不确定性分析方法
反演方法
衰减特征
深度学习模型
神经网络模型
非暂时性计算机
结晶
多层前馈神经网络