基于增量泛化边界的闭源LLM智能体幻觉监测方法及系统

本发明涉及大型语言模型技术领域，提供一种基于增量泛化边界的闭源LLM智能体幻觉监测方法及系统，方法包括构建多智能体系统，核心智能体在目标领域中随机初始化多个基本查询并发送至目标智能体，获得初始问答对；通过评估智能体对初始问答对进行幻觉判断；若存在幻觉，查询生成智能体通过嵌入模型将初始问答对转换为边界向量，若无幻觉，查询生成智能体通过基于组相对策略优化的概率分形递归生成新问答对；重复幻觉判断获得泛化边界点集合；计算新增输入查询与边界点的余弦相似度和累积语义熵，进行实时幻觉监测。本发明实现了对幻觉的监测，规避幻觉对LLM赋能智能体的不良影响，提升真实场景应用的可信度与安全性。