基于GraphRAG和大语言模型的报支客服问答方法

本发明涉及一种基于GraphRAG和大语言模型的报支客服问答方法，首先人工整理出企业生产环境所用报支问答数据集，通过数据预处理和人工标注得到问答对形式的数据集；然后对问答对形式的数据集进行文本提取与整合，构建三段式提示词模板，得到用于微调的数据。利用这些微调数据，通过参数冻结以及噪音嵌入技术对开源的基座大模型进行参数微调，同时采用分布式训练框架减少训练所需资源；接着使用基于图表表示的检索增强生成，对整合后的数据集进行补充说明，共同输入给大模型进行增强生成，提升大模型的回答表现；最后在模型推理过程中使用高速推理框架和优化算法加速模型推理和响应速度，得到对报支相关问题的生成回答。