摘要
本公开提供了一种面向协同特征感知的大模型微调方法及系统,涉及大语言模型微调技术领域,利用不同数据来源组成的多模态数据集,对大模型进行迭代微调,直到微调验证结果满足预设条件,每次迭代为:在上轮微调验证结果的引导下,从多模态数据中筛选文本属性,构建微调提示;利用微调提示,使用低秩适配技术,感知协同特征,对大语言模型进行微调;利用多模态知识迁移,提取多模态数据中的多模态特征,生成微调验证提示;将微调验证提示输入到微调后的大模型中进行推理,生成微调验证结果,微调验证结果不满足预设条件则进行下轮的迭代微调;本发明能提升大模型在特定任务上的性能,并减少训练资源消耗,适用于各类大规模人工智能应用场景。
技术关键词
微调方法
多模态特征
数据
重构
图片
微调系统
微调技术
电子设备
处理器
文本
大语言模型
存储器
计算机程序产品
模块
解码器
编码器