模型幻觉检测方法和装置、电子设备及存储介质

AITNT
正文
推荐专利
模型幻觉检测方法和装置、电子设备及存储介质
申请号:CN202411471794
申请日期:2024-10-21
公开号:CN119416786A
公开日期:2025-02-11
类型:发明专利
摘要
本申请实施例提供了一种模型幻觉检测方法和装置、电子设备及存储介质,属于文本处理和人工智能技术领域。该方法包括:获取目标模型生成的原始文本;对所述原始文本进行命名实体识别,得到目标实体词组;对所述目标实体词组进行位置查询,得到位置概率,其中,所述位置概率表示在所述原始文本中任意位置为所述目标实体词组的概率;基于所述位置概率,对所述原始文本进行幻觉评分,得到文本幻觉分数;基于所述文本幻觉分数及所述原始文本,对所述目标模型进行幻觉检测,得到模型幻觉检测结果,其中,所述模型幻觉检测结果表示所述目标模型生成的文本存在幻觉或不存在幻觉。本申请实施例能够提高模型幻觉检测的效率。
技术关键词
文本 命名实体识别 词性信息 电子设备 信息熵 可读存储介质 人工智能技术 数据 处理器 识别模块 存储器 计算机 包装 分词 关系
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号