摘要
本发明公开了工业设备故障诊断大语言模型多专家LoRA微调方法,包括以下步骤:S1、数据收集与预处理:收集工业设备故障诊断相关的数据,对数据集进行清洗和标注,并划分为训练集、验证集和测试集;S2、选择基础大语言模型;S3、构建多专家LoRA模块,针对不同的工业设备领域分别构建专家LoRA模块,并设计独立的动态路由微调策略;S4、多专家LoRA微调,将训练集输入到基础大语言模型中,激活所有专家LoRA模块,对基础大语言模型的部分参数进行更新;S5、模型融合与评估,将所有专家LoRA模块的参数与基础大语言模型的参数进行融合,该工业设备故障诊断大语言模型多专家LoRA微调方法克服现有技术中存在的计算量大、过拟合以及难以充分利用多领域专家知识的问题。
技术关键词
工业设备故障诊断
大语言模型
微调方法
训练集
基础
设备运行参数
模块
噪声数据
液压设备
传播算法
机械部件
融合特征
策略
电气设备
动态
时序
多模态