摘要
本公开提供了一种检索增强生成方法、装置、电子设备、介质和程序产品,涉及计算机技术领域。其中,检索增强生成方法包括:将用户问题输入至语言模型,以对所述用户问题进行分词处理,得到多个分词单元;基于知识需求指标对所述多个分词单元进行检索必要性评估;基于评估结果确定需要检索增强,基于所述多个分词单元的注意力分数构建查询语句;将所述查询语句分解为多个子问题,以对所述多个子问题分别进行检索增强;基于所述检索增强的结果使所述语言模型输出所述用户问题的第一应答结果。通过本公开的技术方案,通过基于知识需求指标动态评估检索必要性,以过滤无需外部知识的简单问题,有利于防止静态RAG模型的盲目检索,减少无效计算开销。
技术关键词
生成方法
分词
构建查询语句
语义
BERT模型
信息熵
指标
序列
电子设备
处理器
停用词表
多层感知机
计算机程序产品
注意力机制
实体
生成装置
核心
输出模块
系统为您推荐了相关专利信息
图像缺陷识别
算法模型
缺陷智能检测方法
深度学习模型训练
训练集
通信仿真方法
自动生成方法
姿态动力学模型
卫星姿态参数
星间通信链路
智能问答方法
语义
存储方法
大语言模型
意图识别