一种基于Lora微调提升大语言模型中医知识回答能力方法

本发明提供一种使用Lora微调方式修改模型权重使得模型学习中医知识方法，包括以下步骤：S1.获取原始大语言基座模型，为后续修改原始大语言模型权重参数做准备；S2.为了训练模型对中医知识的回复能力，构建中医知识数据集；S3.获取Lora微调技术参数代码，对其进行修改参数，获得对应训练参数代码；S4.采用Lora微调方式，微调之后模型的权重矩阵为W1，微调之后模型的权重发生改变为ΔW；S5.将修改完代码和构建的数据集对指定的大模型进行微调训练；S6.将训练好的Lora模块加载到原有模型的权重矩阵上；S7.评估模型性能，采用BLEU‑4与ROUGE两种评价指标，通过计算模型生成文本与参考文本之间最长公共子序列的匹配程度评判模型能力。