基于模型指纹的联邦学习后门攻击防御方法

AITNT
正文
推荐专利
基于模型指纹的联邦学习后门攻击防御方法
申请号:CN202510068019
申请日期:2025-01-16
公开号:CN120068082A
公开日期:2025-05-30
类型:发明专利
摘要
本发明提供了一种基于模型指纹的联邦学习后门攻击防御方法,旨在提高联邦学习系统的安全性。该方法包括以下步骤:在服务器端生成具有特定特征的指纹样本,这些指纹样本可在正常模型和后门模型上产生不同的响应,用于后续验证;客户端在本地进行模型训练,将训练完成的模型更新及相关元数据提交至服务器;服务器使用指纹样本进行验证,并与预期标准响应进行比对,以判断是否存在异常;根据客户端的参与次数和历史检测结果动态调整模型聚合权重,降低恶意客户端对全局模型的影响;若持续检测到异常,服务器拒绝该更新并限制可疑客户端的后续参与。该方法降低了误检测率,保障主任务性能,适用于多种场景,且符合联邦学习的隐私保护要求。
技术关键词
攻击防御方法 客户端 指纹 模型更新 后门 服务器 样本 联邦学习系统 动态 备份 报告 进程 数据 标签 场景 标识 频率
系统为您推荐了相关专利信息
1
一种基于异构图神经网络的OLED材料稳定性预测方法
分子结构特征 稳定性预测方法 融合特征 异构 指纹特征
2
面向低轨卫星星座的模型协同可信训练系统及方法
低轨卫星星座 分片 训练系统 节点 参数
3
面向术中切缘评估的生物组织分子指纹提取方法及系统
指纹提取方法 可见光相机 近红外相机 组织 颜色
4
一种基于图联邦学习的隐私保护推荐方法
交互模型 隐私保护推荐 多任务联合训练 客户端 矩阵
5
印前电子文件比对方法、设备及存储介质
文件比对方法 拓扑结构特征 语义特征 多尺度特征金字塔 超分辨率
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号