摘要
本发明实施例提供一种文本实体联合关系抽取模型的训练方法、装置及计算机可读存储介质,所述方法包括:对输入文本进行编码以分别获得输入文本中包含的每个词元对应任务的原始特征表示;基于多头注意力机制动态融合每个词元的原始特征表示以分别获得对应任务的融合特征;基于双向标注的实体对识别方法结合融合特征进行实体识别,抽取存在潜在关系的所有实体对;基于基线模型的双仿射网络结构对每对实体对进行关系分配,获得实体对对应的关系概率;分别构建实体识别的第一损失函数以及关系分配的第二损失函数,联合第一损失函数和第二损失函数以获得总损失函数,最小化总损失函数以输出模型。本实施例训练获得的模型能有效提升表示和学习能力。
技术关键词
实体
关系抽取模型
融合特征
文本
上下文特征
矩阵
多头注意力机制
预训练语言模型
参数
可读存储介质
网络结构
抽取特征
识别方法
多层感知机
识别特征
计算机
基线
系统为您推荐了相关专利信息
图像分割网络
遥感图像数据
驱动特征
多任务损失函数
遥感影像分割
工程信息管理方法
铁路
分类规则
加密策略
工程信息管理系统
文本
三元组
加密方法
差分隐私技术
关系抽取模型
医疗影像数据
样本
关键词
辅助评估系统
特征提取模型