一种基于大语言模型权重微调的时序预测模型构建方法

本发明公开了一种基于大语言模型权重微调的时序预测模型构建方法，该方法基于开源大语言模型GPT2的预训练模型权重，通过网络参数冻结、两阶段预训练模型参数调整的方法，使得大语言模型在权重调整的过程中适应电力系统场景中的源荷预测任务；构建了自然语言指令驱动的模型输入层，实现了时间序列数据与自然语言输入的高效结合，进一步提升时序预测模型在时序预测任务中的效果。基于本发明方法构建的时序预测模型在泛化性能上具有显著优势，在小样本、零样本等特殊预测场景下的预测精度相较于传统预测方法具有显著提升。