一种基于大模型微调的知识问答方法、装置及存储介质

本发明公开了一种基于大模型微调的知识问答方法、装置及存储介质，包括：（1）在大语言模型的原始参数旁边添加正交子空间，所述的正交子空间包括正交基、训练参数以及以正交基的逆；（2）进行两阶段训练；第一阶段，冻结训练参数，将正交子空间拟合到目标知识领域数据集的子空间；第二阶段，冻结正交基，在已拟合至目标知识领域数据集的子空间下对训练参数进行训练，以完成知识注入；（3）将目标知识领域的问题输入训练完的大语言模型，生成响应答案。利用本发明，可以解决在知识问答场景中，使用常规高效参数微调方法注入新领域知识时效果不佳的问题。