一种面向神经网络的可计算隐蔽后门攻击方法

AITNT
正文
推荐专利
一种面向神经网络的可计算隐蔽后门攻击方法
申请号:CN202411120003
申请日期:2024-08-15
公开号:CN119066653A
公开日期:2024-12-03
类型:发明专利
摘要
本发明公开了一种面向神经网络的可计算隐蔽后门攻击方法,包括:S1、在神经网络进行模型训练前,初始化可计算触发器的数值;S2、将可计算触发器嵌入到迁移学习的训练数据中;S3、使用投影梯度下降(Projected Gradient Descent,PGD)算法对触发器进行隐蔽处理,将其效果分散到一个微小的图像扰动中,确保中毒数据在正常数据中难以检测;S4、使用中毒数据对神经网络进行训练,得到一个被植入后门的模型;S5、评估模型的攻击效果是否达标,若是,根据反馈信息将中毒数据上传到开源数据平台,等待受害者下载;否则,根据反馈信息调整触发器的参数和隐藏策略,返回步骤S2,继续训练。本发明通过结合可计算触发器和隐蔽触发器,实现了在迁移学习中仅更新少量参数的高效、隐蔽后门攻击,同时保持了模型的性能不受影响。该方法对深度学习领域的攻击与防御研究具有重要的理论价值和实践意义。
技术关键词
后门 神经网络模型 分层随机抽样 数据平台 样本 训练神经网络 梯度下降算法 数值 梯度下降法 像素点 参数 训练集 策略 误差 定义 拷贝 图片 视觉
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号