摘要
本发明提供了一种基于模型指纹的联邦学习后门攻击防御方法,旨在提高联邦学习系统的安全性。该方法包括以下步骤:在服务器端生成具有特定特征的指纹样本,这些指纹样本可在正常模型和后门模型上产生不同的响应,用于后续验证;客户端在本地进行模型训练,将训练完成的模型更新及相关元数据提交至服务器;服务器使用指纹样本进行验证,并与预期标准响应进行比对,以判断是否存在异常;根据客户端的参与次数和历史检测结果动态调整模型聚合权重,降低恶意客户端对全局模型的影响;若持续检测到异常,服务器拒绝该更新并限制可疑客户端的后续参与。该方法降低了误检测率,保障主任务性能,适用于多种场景,且符合联邦学习的隐私保护要求。
技术关键词
攻击防御方法
客户端
指纹
模型更新
后门
服务器
样本
联邦学习系统
动态
备份
报告
进程
数据
标签
场景
标识
频率
系统为您推荐了相关专利信息
分子结构特征
稳定性预测方法
融合特征
异构
指纹特征
交互模型
隐私保护推荐
多任务联合训练
客户端
矩阵
文件比对方法
拓扑结构特征
语义特征
多尺度特征金字塔
超分辨率