基于RoBERTa与卷积神经网络的制式短文本实体关系抽取方法

本发明属于人工智能技术领域，具体涉及一种基于RoBERTa与卷积神经网络的制式短文本实体关系抽取方法，本发明使用RoBERTa预训练语言模型对制式短文本进行上游编码，利用RoBERTa预训练语言模型中的多层双向Transformer(Trm)网络结进行信息挖掘，进而下游网络利用短文本的结构、语义等特征进行实体及其之间关系的抽取。由于采用深度学习技术进行实体及其之间关系的抽取，因此本方法具备较好的泛用性与迁移学习的能力，针对部分未进行学习的制式短文本模板也有着较好的抽取效果。