摘要
本发明公开了一种通用的信息抽取方法。本发明将信息抽取任务重新表述为跨度抽取和跨度‑跨度关系抽取,从而将信息抽取任务统一为二维矩阵上的目标框检测任务。本发明提出了轻量注意力模块,它结合了Softmax注意力机制和线性注意力机制的优点,将空间和时间复杂度从O(L2)降低到O(L1.5),同时实现了更好的性能。此外,本发明设计并使用了轻量变压器模型,该模型将轻量注意力模块与卷积神经网络集成在一起,以捕获二维特征矩阵中的长距离和局部依赖关系。对八个数据集的六个信息抽取任务的综合评估表明,本发明提出的方法达到了非常先进的性能。此外,本发明还展现出卓越的知识迁移能力并具有显著的效率。
技术关键词
跨度
信息抽取方法
信息抽取模型
变压器模型
矩阵
注意力机制
编码模块
标签
关系
代表
序列
四边形
解码器
线性单元
计算机设备
文本
系统为您推荐了相关专利信息
多重信号分类算法
估计方法
阵列信号处理技术
协方差矩阵分解
稀疏阵列天线
中频信号
DOA估计算法
功率
协方差矩阵
估计误差
状态空间模型
同步控制方法
龙伯格观测器
残差数据
误差参数
飞行轨迹预测
机载传感器
混合网络
卡尔曼滤波模型
长短期记忆神经网络