摘要
本发明公开了一种利用基于轴向注意力DWConv前馈网络的文档级关系提取方法,首先采集包含多个实体及多组关系的长文本,并在实体前后标记其位置及关系标签。针对现有文档级关系提取模型准确率不高、内存占用大的问题,设计了一个基于轴向注意力机制的高效前馈网络。该网络利用轴向注意力模块替代全局注意力处理词嵌入矩阵,通过对维度分解与重组,交替计算行注意力和列注意力,有效建模实体对间的多步推理关系并捕获全局信息,在显著减少模型参数、提升推理速度的同时提高了关系预测准确率,解决了高维建模和长距离依赖问题。部署时,结合开源命名实体识别工具自动标记输入长文本中的实体位置,最终实现了高效、准确的文档级关系提取。
技术关键词
关系提取方法
命名实体识别
文本
矩阵
归一化模块
自动标记
网络模块
构建知识图谱
词嵌入向量
线性分类器
三元组
注意力机制
卷积模块
标签
系统为您推荐了相关专利信息
系统管理方法
改进型粒子群算法
深度神经网络
混合预测模型
管道内沉积物
应急决策方法
综合风险指标
物理传感器
多模态数据采集
多模态数据融合
更新模型参数
通用特征
多层级特征
改进型卷积神经网络
多任务