摘要
一种面向人机对话系统的命名实体识别方法,首先去除大语言模型的因果掩码以充分挖掘大语言模型的双向语义嵌入表征能力,使其更适用于精准的令牌分类任务;然后计算大语言模型语义嵌入的语义相似度并作为新的监督信息融合到大语言模型的语义嵌入中,以改善去掩码大语言模型在恢复双向注意力时标签监督能力不足的问题,从而使模型获得更好的语义嵌入来计算对应的实体分数;最后分别计算实体和类型分数来识别命名实体。本发明考虑了大语言模型的双向语义理解信息和语义相似度信息,提高了大语言模型在人机对话系统中的命名实体识别的准确度。
技术关键词
人机对话系统
大语言模型
命名实体识别方法
令牌
矩阵
语义
识别命名实体
语句
多头注意力机制
双向注意力
序列
标签
字符
数据
参数
系统为您推荐了相关专利信息
剪力墙结构
指标
构件截面尺寸
计算机科学技术
人工智能算法
跨度
命名实体识别模型
文本
识别方法
双向变换器
清洗控制方法
时间段
校准
水位预测值
卡尔曼滤波算法
样本
语义特征提取
噪声
图像上色方法
颜色特征提取