一种基于微调大语言模型的机械设备剩余寿命预测方法

本发明公开了一种基于微调大语言模型的机械设备剩余寿命预测方法。本发明通过两阶段微调对大语言模型进行调整，然后利用调整后的大语言模型搭建机械设备剩余寿命预测模型。其中，在第一个微调阶段使用自监督学习调整模型权重，在第二个微调阶段使用监督学习调整模型权重。在两个微调阶段，冻结了大语言模型中transformer构的注意力层和前馈神经网络的参数更新。在transformer中引入了适配器技术，帮助模型从微调的数据集中学习对剩余寿命有效的新知识。本发明可以有效利用大量无标签数据快速训练模型，对标签数据的需求很小，符合工业环境中缺乏标签数据但存在海量无标签数据的情景。