基于深度先验期望梯度的神经网络解释方法

本发明属人工智能、卷积神经网络技术领域，为提出一种更为高效、稳定且适应性强的卷积神经网络特征归因解释方法，能够清晰地揭示其内在的决策机制，本发明基于深度先验期望梯度的神经网络解释方法，首先利用深度卷积神经网络CNN的特征提取能力，对输入图像进行处理获取特征表示，在获取展平的特征向量后，利用概率分布模型捕捉特征的分布特性，从而得到先验概率分布，对先验概率分布进行双线性上采样，使其匹配原始输入图像的空间维度，将匹配原始输入图像空间维度的先验概率分布整合进期望梯度框架，通过计算基于期望梯度值的特征重要性得到能够直观展示对输入图像中的关注区域的特征归因图。本发明主要应用于人工智能检测、自动控制场合。