一种基于知识蒸馏和协解码的代码大模型安全加固方法

本发明提供一种基于知识蒸馏和协解码的代码大模型安全加固方法，包括如下步骤：选取任一模型家族中的基础模型和最佳模型；选取任意代码片段数据集作为C，采用知识蒸馏方法将基础模型与最佳模型进行功能正确性对齐，然后对对齐后的基础模型进行训练，最后得到Q；选用若干漏洞数据对组成漏洞数据集，采用过采样策略对漏洞数据集进行预处理得到安全加固训练集；设计安全加固损失函数采用低秩适应法和训练Q得到最终安全加固基础模型M；从模型家族中选取目标模型X，将M嵌入到X中得到安全性加固后的目标模型X’。这种方法可以有效地提高使用代码大模型开发时的安全性，且不需要进行再次训练或微调代码大模型，大幅度的降低了开发成本。