一种大语言模型幻觉检测方法

本发明提供一种大语言模型幻觉检测方法，涉及人工智能技术领域，所述方法包括：获取待检测参考回答对应的原始输入问题，对原始输入问题进行改写，获得改写问题；通过待检测大语言模型对改写问题进行回答采样，获得多个随机性生成回答；基于原始输入问题和随机性生成回答生成多个语义向量；对嵌入矩阵进行聚类处理，获得聚类结果；根据聚类结果计算语义熵；根据语义熵评估待检测参考回答为幻觉的可能性，输出待检测参考回答是否为幻觉的二元判断结果。与现有幻觉检测方法相比，本发明聚类效果更优，能够避免因表述差异导致的过度分割，且作为一种黑盒测试框架，无需访问大语言模型内部参数，具有良好的泛用性。