对抗样本溯源方法、相关装置和介质

本公开实施例提供了一种对抗样本溯源方法、相关装置和介质。该方法包括：当检测到对抗样本对应的原始样本时，根据原始样本和对抗样本的差值、及各个模型副本的水印，计算各个模型副本对应的第一分数；当未检测到对抗样本对应的原始样本时，根据各个模型副本的水印分别对对抗样本进行掩码处理，得到掩码后的对抗样本集；将对抗样本集分别输入各个模型副本中，得到多个预测结果；根据各个预测结果，确定各个模型副本对应的第一分数；根据第一分数，从各个模型副本中确定生成对抗样本的目标模型副本；其中，各个模型副本的水印均不相同。本公开实施例旨在提高机器学习模型在对抗攻击下的安全性和可追溯性。