摘要
本发明公开了一种基于大语言模型的长文本问答协同推理方法,其特点是采用提示工程构建的综合推理与检索增强生成推理协同的长文本问答推理框架,利用大语言模型将两个推理得到的答案整合至结构化提示词,从中筛选出最终答案,所述综合推理采用高斯分布加权将全局文本推理与局部文本推理融合,得到一答案;所述检索增强生成推理利用大语言模型根据检索到的内容回答问题,得到另一答案。本发明与现有技术相比具有增强模型在长文本问答任务中的准确性,缓解长文本中部信息丢失对大语言模型长文本问答性能的负面影响,以及模型上下文窗口尺寸对长文本处理的限制,使回答内容完整、准确,提升用户体验和满意度,具有良好的运用前景。
技术关键词
大语言模型
推理方法
文本
答案
解码器
倒排索引方式
预训练语言模型
切片
符号
模板
编码
框架
指令
尺寸
系统为您推荐了相关专利信息
温度预测方法
深度网络模型
神经网络模型
煤炭
重构原始数据
风险评估模型
交互控制方法
智能终端
深度神经网络模型
措施
融合特征
解码器
特征提取模块
编码器
图像增强模块
文本
实体分类模型
实体分类方法
偏旁特征
边缘检测