一种黑盒攻击对抗样本的生成方法及装置

本发明公开了一种黑盒攻击对抗样本的生成方法及装置，涉及人工智能安全及对抗样本生成技术领域。解决当前在黑盒攻击下对抗样本生成方法过多依赖模型，容易造成冗余扰动和非必要的像素篡改，导致查询次数较高以及攻击成功率较低的问题。该方法包括：基于第一关键语义像素得到第一对抗样本，将第一对抗样本输入第一视觉大模型得到当前决策标签；根据当前决策标签和准确类别标签得到第一损失函数；根据第一损失函数确定第一对抗样本的第一梯度，根据第一梯度、第一关键语义像素和更新步长得到第一对抗扰动，根据第一对抗扰动和第一对抗样本得到最终对抗样本，其中，最终对抗样本输入第一视觉大模型中得到的最终决策标签与准确类别标签不相同。