一种针对模型后门攻击的防御方法及系统

本发明属于人工智能安全技术领域，涉及一种针对模型后门攻击的防御方法。本发明旨在解决现有防御技术常导致模型准确率显著下降的问题。该方法结合了后门标签检测与模型微调方法，通过以下步骤实现：首先，利用神经清洗方法检测后门标签，并识别潜在后门触发器；其次，使用投影梯度下降算法生成对抗样本；接着，进行第一阶段的对抗性微调训练，以降低模型对后门触发器的敏感性；最后，通过干净样本进行第二阶段的微调训练，逐步恢复模型在原始数据上的分类性能。