摘要
本公开实施例中提供了一种结合因果知识和注意力的可解释性评估方法及装置,包括:将数据集划分为训练集和测试集;在训练集上构建事件数据的因果图,以得到事件论元之间的因果强度矩阵;结合所述因果图进行模型训练以获得训练后的模型;将测试数据输入训练后的模型中以获得预测结果和注意力权重;对注意力权重向量可视化以获得有向图;以及比对有向图与因果图之间的相似性大小,以确定可解释性。通过本公开的处理方案,实现了模型的可解释性。
技术关键词
注意力
协方差矩阵
样本
模型构建装置
度度量方法
数据
强度
正则化参数
评估装置
答案
分析方法
元素
关系
文本
理论
系统为您推荐了相关专利信息
胶原凝胶
高通量药物筛选
深度神经网络
图像
注意力
交互式多模型算法
温度传感器
扩展卡尔曼滤波
多型号
模型库
风电设备
稳定运行状态
WGAN模型
稳态
辨识方法
入侵检测方法
无监督
生成对抗网络
解码器
异常数据检测
风险预测模型
特征提取模型
生成企业
训练特征
神经网络模型训练