摘要
本发明涉及深度神经网络安全领域,提出了一种基于竞争博弈的模型后门检测与修复方法及装置。该方法通过在干净数据中植入强、弱后门触发器并结合可疑数据训练模型,使模型学习两者间的竞争关系。检测时,向可疑样本植入弱触发器,依据模型输出判断样本是否被投毒。对于检测出的有毒样本,采用机器遗忘技术处理,重新训练模型以移除后门。该技术有效解决了现有方法检测效率低、准确性差以及移除后门时性能下降的问题,提升了神经网络模型的安全性和性能。
技术关键词
后门
样本
标签
修复方法
数据
神经网络模型
模块
训练集
修复装置
本质
重构
关系
处理器
程序
系统为您推荐了相关专利信息
寿命预测模型
储能系统
故障预警方法
融合深度学习模型
电池单体温度
机器学习训练
标签
数据分类
生成热力图
异常数据