用于解释由工业自动化系统的机器学习模型引发的警报的系统和方法

本公开的实施例涉及用于解释由工业自动化系统的机器学习模型引发的警报的系统和方法。提供了一种用于解释由工业自动化系统的机器学习模型(152)引发的警报的解释器系统(100)。该解释器系统被配置为：从机器学习模型接收模型输出，该机器学习模型被训练为预测工业自动化系统中的异常行为并且引发警报；使用至少一个预测解释技术来处理模型输出，以标识对模型输出有贡献的至少一个有影响特征；使用所标识的至少一个有影响特征来从与工业自动化系统相关的至少一个机器可读信息源(106，108，110，114，118)中提取上下文信息；以及准备所提取的上下文信息以显示给工业自动化系统的操作者，以使得操作者能够响应于警报而选择要采取的适当动作以确保工业自动化系统的适当功能。