基于可控迁移对抗样本的黑盒模型验证方法

本发明提出一种基于可控迁移对抗样本的黑盒模型验证方法，选择一个白盒的源模型，再根据候选的模型类别获取每一个候选的模型类别的一组白盒的屏蔽模型；基于源模型和一个候选类别的一组屏蔽模型生成该候选类别的对抗样本，生成过程中通过互补的方式利用源模型和屏蔽模型的梯度信息来优化对抗扰动；将生成的各候选的模型类别的对抗样本分别输入待验证的黑盒模型，测试黑盒模型输出，选择输出性能下降最小的对抗样本所对应的模型类别为验证模型类别，如验证模型类别与目标模型类别一致，则表示模型服务提供商提供了正确的模型服务。本发明为MLaaS场景下的模型真实性认证提供了高效、可靠的解决方案。