用于解释模型的方法、装置、存储介质及电子设备

本说明书实施例公开了一种用于解释模型的方法、装置、存储介质及电子设备，将文本序列信息输入待解释的循环神经网络模型，针对文本序列信息在输入过程中的每个时间步，根据循环神经网络模型在该时间步对应的预测过程中的行为构建该时间步对应的线性代理模型，对线性代理模型进行训练，获得训练后的线性代理模型；根据每个时间步对应的训练后的线性代理模型，构建集成代理模型；根据循环神经网络模型关于文本序列信息的输出结果，基于集成代理模型，获得每个时间步的文本单元对应的特征归因分数，根据特征归因分数，获得用于解释循环神经网络模型的解释信息。