摘要
本申请实施例提供了一种模型幻觉检测方法和装置、电子设备及存储介质,属于文本处理和人工智能技术领域。该方法包括:获取目标模型生成的原始文本;对所述原始文本进行命名实体识别,得到目标实体词组;对所述目标实体词组进行位置查询,得到位置概率,其中,所述位置概率表示在所述原始文本中任意位置为所述目标实体词组的概率;基于所述位置概率,对所述原始文本进行幻觉评分,得到文本幻觉分数;基于所述文本幻觉分数及所述原始文本,对所述目标模型进行幻觉检测,得到模型幻觉检测结果,其中,所述模型幻觉检测结果表示所述目标模型生成的文本存在幻觉或不存在幻觉。本申请实施例能够提高模型幻觉检测的效率。
技术关键词
文本
命名实体识别
词性信息
电子设备
信息熵
可读存储介质
人工智能技术
数据
处理器
识别模块
存储器
计算机
包装
分词
关系