摘要
本发明公开了基于注意力引导特征蒸馏和原型对比对齐的联邦学习方法,通过结合注意力引导的特征蒸馏和原型对比对齐机制实现了在保护客户端隐私的同时提升联邦学习模型的个性化和泛化性能的功能。注意力引导的特征蒸馏技术用于解决历史信息遗忘问题,通过利用前一轮的本地特征提取器作为教师模型,并结合注意力机制指导新学生模型的学习,有效保留和传承客户端的个性化历史知识。原型对比对齐技术解决个性化与泛化之间的冲突问题,通过调整全局原型和本地原型之间的关系,并采用原型对比学习损失和原型对齐损失,增强模型在不同客户端数据上的区分能力,从而在保持个性化准确度的同时提高模型的泛化性能。
技术关键词
原型
联邦学习方法
全局特征提取
标签
特征提取器
蒸馏
服务器
学生
教师
数据
注意力机制
联邦学习模型
保护客户端
样本
通道
分类器参数
表达式
跨层特征
系统为您推荐了相关专利信息
系统故障预测方法
故障预测模型
航电系统
多元线性回归模型
多源异构数据
土壤温湿度传感器
NFC芯片
电子标签
读写设备
探针