摘要
本发明涉及自然语言处理技术领域,提出一种融合共指关系与外部知识增强的因果推断方法,所述因果推断方法包括:提取文本中的事件词作为掩码目标词并对非事件词进行掩码操作,利用改进型BERT模型在预训练阶段通过上下文重构训练预测被掩码的事件词;提取原因事件与结果事件的共指事件对,得到共指事件的共指特征;从外部知识库提取与原因/结果事件关联的潜在间接事件构建外部知识库因果图谱,构建结构化语义图,并进行节点特征融合;将共指特征和融合后的节点特征进行融合后进行非线性变换;将上下文语义特征和外部知识库特征进行融合后得到综合特征表示,将综合特征表示输入至预测层中,得到事件对关系的最终预测结果。
技术关键词
推断方法
节点特征
语义特征
BERT模型
卷积神经网络融合
序列
文本
关系抽取技术
多头注意力机制
矩阵
图谱
样本
非线性
自然语言
重构
系统为您推荐了相关专利信息
继电保护装置
二次安全措施
远程调控方法
生成对抗网络
二次设备
融合特征
预训练模型
语义特征
自然语言文本
键值
芒果树
语义特征
图像多尺度
融合特征
协同注意力