摘要
本发明公开了一种结合样本内扰动演化与扰动幅度归一化的对抗样本生成方法、系统、设备及存储介质,属于人工智能安全技术领域,包括步骤1、获取输入图像及对应标签并初始化各超参数和扰动张量;步骤2、在每轮扰动迭代中,基于当前扰动的分离副本进行内扰动演化;步骤3、对内扰动演化所得的梯度执行统一缩放处理;步骤4、利用缩放后的梯度更新最终扰动张量;步骤5、重复步骤2至步骤4直至达到设定的扰动迭代次数,生成最终的对抗样本;本发明通过引入样本内扰动演化及外扰动幅值归一化,有效提升了对抗样本的扰动效果和稳定性,在人工智能模型的安全评估和鲁棒性测试中具有广泛应用价值。
技术关键词
样本生成方法
归一化模块
标签
因子
图像
副本
人工智能模型
输出模块
可读存储介质
处理器
生成系统
计算机设备
超参数
索引
存储器
鲁棒性
机制