一种基于多源检索与总结模块的大语言模型推理增强方法及装置

本申请涉及一种基于多源检索与总结模块的大语言模型推理增强方法及装置，其包括将Qwen2.5‑32B作为大语言模型，并使用预设的检索数据集对大语言模型进行微调；通过强化学习引入多重奖励来提升大语言模型的自我认知能力；基于FAISS构建向量数据库与实时网络检索系统，并通过向量数据库以及实时网络检索系统多源检索文本数据；通过预设的小型语言模型总结文本数据的文本信息，并将文本信息输出至大语言模型中。本申请采用强化学习(GPRO)对大语言模型的自我认知能力进行提升，并构建多源检索模块，能够做到快速查询语义相近的数据助力大语言模型深入理解数据的语义内涵，提升检索的准确性与合理性。