基于预模板的目标检测模型可解释方法及系统

本发明提供了一种基于预模板的目标检测模型可解释方法及系统，该方法包括：将原始图像输入训练后的目标检测模型获取多个候选框，通过非极大值抑制算法筛选出至少一个目标框，并基于原始图像生成掩码；利用掩码对图像进行扰动，得到扰动后的图像，将扰动后的图像输入所述目标检测模型，获取扰动后的候选框；根据扰动后的候选框和目标框，计算每个掩码的扰动权重；根据扰动权重对掩码进行加权求和，得到初始概率热图；利用所述初始概率热图作为预模板，再次生成新的掩码，输出最终解释热图。本发明通过预先生成的关键区域模板，约束掩码在目标区域的扰动范围，抑制非目标区域的噪声加权，降低了热图背景噪声，为可解释方法在目标检测模型的实际应用提供了更好效果。