摘要
本发明提供一种文本信息补全方法和系统,通过预训练语言模型把文本信息转化为子词向量,再把子词向量重构成词向量,并且进行语义标签对齐,将提取的词向量特征与其对应的语义标签进行融合并通过预测模型训练,从而为语言表达提供丰富的语义和结构化知识,构建更加精确的文本表征,从很大程度上提升了文本信息预测的准确性,提升了数据处理的效率。
技术关键词
语义标签
信息补全方法
文本
预训练语言模型
语义角色标注
信息补全装置
预测模型训练
序列
处理器
可读存储介质
多层感知机
重构模块
编码模块
存储器
计算机
芯片
指令