对抗样本检测方法及相关设备

本公开提供了一种对抗样本检测方法及相关设备，涉及计算机技术领域，该方法包括：将待检测图像输入分类器中进行分类预测，输出不同预测类别的概率分布，其中，概率最大的预测类别作为初始预测类别；通过多模态对齐模型生成的每个预测类别的文本提示和待检测图像，确定每个预测类别的图文对齐分数；根据每个预测类别的图文对齐分数和初始预测类别的图文对齐分数，确定最大语义差异；判断最大语义差异是否满足预设阈值，若否，则拒绝输出分类结果，确定待检测图像为对抗样本。通过多模态一致性，结合视觉分类器和文本语义对齐的方式，当检测到语义不一致时，放弃预测，构建模型无关的拒绝机制，从而显著提升对抗样本检测能力与系统整体安全性。