一种基于知识图谱结构的大语言模型幻觉检测方法及系统

本发明公开了一种基于知识图谱结构的大语言模型幻觉检测方法及系统，属于大模型幻觉检测领域。本方法包括：获取大语言模型生成的文本数据，抽取文本数据的三元组，得到知识图谱三元组表示集合；基于大语言模型和自然语言推理模型，分别判断知识图谱三元组表示集合中的三元组是否存在幻觉，并将两个模型的结果输出为最终幻觉概率；输出各三元组存在幻觉的概率并进行可视化展示。本发明提供的双模型验证机制提高了幻觉检测结果的可靠性，加权融合算法能够平衡不同模型的优势，精准定位幻觉的位置，且本发明进行了可视化展示方便用户理解。