一种面向人工智能模型的黑盒自适应安全评估方法及系统

本发明公开了一种面向人工智能模型的黑盒自适应安全评估方法及系统，方法包括：系统利用集成多种黑盒对抗评估算法动态生成对抗样本，利用鲁棒性增强算法对对抗样本进行鲁棒性增强，获取增强后的对抗样本；利用对抗样本和增强后的对抗样本自适应评估视觉模型的脆弱漏洞，自动保存所有操作和检测记录。本发明旨在集成黑盒场景下现存优秀的黑盒对抗评估算法以及对鲁棒性增强算法，解决解决对抗评估算法攻击效率低下，以及其面向不同内部结构视觉模型的鲁棒性脆弱问题，从而使用户更好地发掘现今视觉模型的漏洞，寻找提高其鲁棒性的方法。