基于可解释性的图像分类模型后门防御方法和装置

本发明提供了一种基于可解释性的图像分类模型后门防御方法和装置，方法包括：搭建后门实验环境基准训练图像分类的干净模型和后门模型；对训练后的干净模型和后门模型进行可解释性实验，获取所述数据集下各个类别的概念并进行筛选；基于筛选后的概念进行可解释表现的综合特征向量构造；将构造的综合特征向量作为输入训练用于区分干净模型和后面模型的二分类器；利用二分类器判断待测图像分类模型是否属于后门模型。本发明通过引入基于可解释性的图像分类模型后门防御方法，利用模型在不同可解释方法下的表现差异，有效区分干净模型和后门模型，实现对后门注入攻击的检测和防御，具有较高的检测准确性和实用性，提升了模型的安全性和可靠性。