一种基于可解释性的图像识别模型误识别原因定位方法

本发明公开了一种基于可解释性的图像识别模型误识别原因定位方法，涉及神经网络的可解释性技术领域。本发明将语义概念与超像素相结合，满足将提供的解释既是模型理解的特征信息又是人类理解的语义概念，帮助高效改善模型性能；同时从数据角度出发，考虑了误识别定位的两个方面来源，即误识别样本的语义概念以及类别训练集的语义概念，体现为通过优化误识别样本的修正特征向量，在模型激活空间中融入了图像识别模型学习到对正确分类有正向影响但误识别样本中不存在的语义概念，并扣除了误识别样本中对正确分类有负向影响的语义概念。基于此，各概念激活向量优化后的权重和对应语义概念即表征了图像识别模型误识别原因，从而实现定位结果的具体性。