摘要
本申请涉及大语言模型技术领域,特别涉及一种基于多智能体代理框架减少幻觉的方法及装置,其中,方法包括:基于预设协作框架,利用多个预训练语言模型分别重复处理输入信息,并结合多个预训练语言模型的幻觉日志,生成多个预训练语言模型减少幻觉的初始回答结果并进行交叉验证,以得到多个预训练语言模型减少初始回答结果中的幻觉的中间回答结果;合并中间回答结果,生成合并回答结果,并分析合并回答结果的方差和熵,以根据方差和熵判断合并回答结果是否存在幻觉,以生成最终回答结果。本申请可以结合重复查询、对抗性辩论、错误日志和投票机制,减少大模型回答的幻觉并提高准确性,并引入了熵压缩技术来优化通信效率,减少对话轮次和响应时间。
技术关键词
预训练语言模型
框架
错误日志
大语言模型
计算机程序产品
处理器
通信效率
对抗性
可读存储介质
处理单元
模块
存储器
电子设备
机制