一种针对目标检测模型中定位问题的黑盒可解释方法与装置

本发明公开了一种针对目标检测模型中定位问题的黑盒可解释方法与装置，该方法包括利用原始图像数据对目标检测模型进行训练，得到训练好的目标检测模型；将待解释的图像输入到训练好的目标检测模型中，输出多个待解释的目标框，每个目标框包括顶点坐标、对象的类别和类别的置信度；拟采用蒙特卡罗采样产生多个掩模，对图片进行扰动，将扰动后的图像输入网络，产生候选框，根据候选框是否与待解释的目标框为同一类别，同一对象，同一条边沿，为被扰动的区域进行权重赋值；利用每个扰动掩模对应的权重，对掩模进行加权求和，得到最终的解释热图。本发明通过扰动原图，精准地捕捉输出的变化，从而产生热力图进行解释。