摘要
本发明涉及一种基于深度学习的联合实体和关系抽取方法、系统和介质,方法的步骤包括:S1、利用BERT模型作为句子编码器,获取用户输入的自然语句X中每个标记的上下文感知嵌入向量;S2、将联合实体和关系抽取视为一个集合预测问题,使用基于Transformer的非自回归解码器直接生成预测三元组集合;S3、设置集合预测损失函数进行模型训练,根据集合预测损失函数在预测三元组集合和真实三元组集合之间生成最优的匹配关系。本发明采用非自回归解码器,将联合实体和关系抽取任务视为一个集合预测问题,因此不再需要预测三元组的顺序,从而在准确性上有显著提高;由于非自回归解码器不依赖先前预测的输出,减少了因步骤依赖导致的错误传播。
技术关键词
关系抽取方法
三元组
BERT模型
实体
解码器
预测网络模型
交叉注意力机制
编码器
匈牙利算法
可读存储介质
抽取系统
语句
标记
解码模块
编码模块
匹配模块
分类器
系统为您推荐了相关专利信息
分词
数据存储结构
计算机可执行指令
术语
注意力
特征提取网络
联合优化方法
低带宽传输系统
图像压缩
宽带传输系统
图像分割方法
图像编码器
特征金字塔
语义特征
注意力