基于检索增强的大语言模型问答方法、装置、设备及介质

AITNT
正文
推荐专利
基于检索增强的大语言模型问答方法、装置、设备及介质
申请号:CN202411617801
申请日期:2024-11-13
公开号:CN119597874A
公开日期:2025-03-11
类型:发明专利
摘要
本发明公开了一种基于检索增强的大语言模型问答方法、装置、设备及介质。该方法包括:获取用户输入的目标问题;根据目标问题在预构知识库中进行检索,得到初始检索结果;根据第一预设提示词,调用大语言模型确定初始检索结果与目标问题之间的第一相关性评分,并基于第一相关性评分对初始检索结果进行过滤,得到过滤后检索结果;根据第二预设提示词,基于目标问题和过滤后检索结果,调用大语言模型生成目标答案。通过在检索阶段借助大语言模型引入自省式检索策略和相关性评估机制,减少了无用信息的引入,提高了检索的针对性和准确性,从而减少了计算资源消耗,提高了大语言模型生成内容的准确性,进而充分发挥了RAG技术潜力,提升了用户体验。
技术关键词
大语言模型 问答方法 答案 向量匹配方法 检索策略 处理器 问答装置 计算机程序产品 过滤模块 计算机设备 重构 可读存储介质 存储器 机制 阶段
系统为您推荐了相关专利信息
1
一种视觉任务处理方法、装置、电子设备、介质及产品
大语言模型 令牌 多模态 解码器 视频
2
大语言模型提示文本的压缩方法、装置、设备及介质
大语言模型 计算机可读指令 答案 序列 文档生成模块
3
一种医疗逻辑知识提取方法及医疗辅助系统
自然语言文本 知识提取方法 逻辑 大语言模型 医疗辅助系统
4
一种物联网玩具管理方法及系统
物联网玩具 自动语音识别 大语言模型 管理方法 文本
5
一种基于预训练大语言模型的双分支医学图像无损压缩方法
大语言模型 比特流 算术编码器 图像无损压缩 加密
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号