摘要
本发明涉及同义词识别技术领域,具体涉及一种文本流实体同义词实时挖掘方法及装置,本发明利用预训练语言模型从实体提及的多个上下文中提取实体提及嵌入,能够捕捉多角度的实体提及上下文语义;本发明利用Transformer的多头子注意力机制,从提取的实体提及嵌入中学习集合特征,能够更好的捕捉集合的全局语义,在一定程度上能够缓解错误累积问题;本发明能够读取文本流,实时的从文本流中挖掘实体同义词集合,相比传统方法的离线操作,更加灵活高效。
技术关键词
同义词
挖掘方法
文本
sigmoid函数
样本
序列
注意力机制
种子
预训练语言模型
挖掘实体
打分器
多层感知机
挖掘装置
编码器
数据
哈希表
元素
输出模块
语义
系统为您推荐了相关专利信息
指标
情感分析模型
权重模型
分析标签
BP神经网络
遥感识别方法
滑坡灾害
变化检测模型
卫星遥感影像数据
覆盖区