摘要
本发明属于数据处理技术领域。提出了一种基于注意力归因的动态检索增强生成方法及系统,根据各个候选答案序列提取对应的注意力归因矩阵,进而得到注意力子矩阵,根据注意力子矩阵计算幻觉得分;当幻觉得分小于或等于设定阈值时,判定不存在幻觉风险;当幻觉得分大于设定阈值时,判定存在幻觉风险,将输入问题与最优答案进行拼接以生成完整语义输入,对完整语义输入进行分句,对每个句子计算幻觉得分,保留幻觉得分最低的设定个数的生成句子以构建语义图,根据语义图得到关键词,根据关键词组成最终的检索查询语句以得到最终的输出答案。本发明实现了对幻觉风险的精准和高效动态评估。
技术关键词
注意力
归因
生成方法
答案
关键词
语义
矩阵
大语言模型
代表
动态
节点
可读存储介质
序列
语句
计算机程序产品
生成系统
处理单元
滑动窗口
风险
系统为您推荐了相关专利信息
风险预警方法
历史统计数据
非易失性计算机可读存储介质
神经网络模型
计算机程序产品
法律知识图谱
大语言模型
智能问答系统
实体
问答对数据
对接控制方法
数值模拟算法
水动力参数
笛卡尔
网格生成方法
原型
实例分割模型
三维点云数据
特征提取器
多层感知机