后门检测方法和系统

本说明书实施例提供一种后门检测方法和系统。其中，在所述方法中，获得待检测的神经网络模型，该神经网络模型包括M个神经元、且具备N个类别的预测能力；获得所述N个类别对应的样本集，并针对每个类别，采用该类别对应的样本集对M个神经元进行归因分析，得到该类别对应的归因分析结果，进而基于N个类别各自对应的归因分析结果确定该神经网络模型是否存在后门。其中，每个类别对应的归因分析结果表征M个神经元对神经网络模型将该类别对应的样本集预测为该类别的贡献度。