基于双元自注意力驱动的角色与词语表示学习方法

本发明提出一种基于双元自注意力驱动的角色与词语表示学习方法，该方法包括：输入文本并给定篇章，对篇章进行句法与语义分析，结合预训练语言模型提取多层级特征；利用特征融合模块对不同的语义嵌入捕获角色的模式语义和词语的上下文语义的跨度关联；利用双向自注意力机制计算角色‑词语和词语‑角色的注意力权重，并对角色的初始嵌入表示和词语的初始嵌入进行更新；对更新的角色嵌入表示和更新的词语嵌入表示进行交互迭代；将最终的角色嵌入表示输入至多层感知机中进行融合更新，并利用跨度预测器进行预测，得到预测结果。本发明设计了融合嵌入学习框架和嵌入学习方法的模型及系统，训练学习有效的角色与词语表示。