大语言模型微调及基于大语言模型的文本处理方法及设备

本申请涉及数据处理技术领域，尤其涉及大语言模型微调及基于大语言模型的文本处理方法及设备。在微调阶段，基于大语言模型增量微调技术，基于行业知识构建数据集，基于该数据集对大语言模型进行第一次微调，得到学习到了行业知识的中间大语言模型。基于用于学习text2sql能力的指令数据，对中间大语言模型进行text2sql任务增量微调，微调后的收敛模型即为最终微调得到的大语言模型，使得最终微调后的大语言模型能够基于行业知识进行文本处理。在推理阶段，电子设备召回与待处理文本相关的表数据和目标行业知识，并基于该表数据和目标行业知识构建prompt，能够更加准确的生成sql语句，提升text2sql的准确率。