摘要
本发明公开了一种基于加权绑定网络的垂直领域多模态大模型持续学习方法;该方法包括两阶段:基于加权绑定网络的多模态对齐训练方法训练领域大模型;基于记忆回放的多模态持续学习训练:通过数据自指令和自问答构造法实现垂直领域数据的增量构造,与记忆回放技术结合筛选领域高质量数据并实现对领域大模型的高效混合微调,弥补通用数据因知识不足难以满足领域大模型任务的缺陷;本发明能解决大模型的领域效果灾难性遗忘问题,并实现垂直领域大模型的持续学习和迭代优化;本发明能支持多模态融合和持续学习在垂直领域中的快速泛化应用,大大提高领域大模型在差异化业务需求和多模态输入背景下的下游任务效果。
技术关键词
持续学习方法
多模态
图像特征向量
回放技术
指令
数据构造方法
加权特征
网络
记忆
BERT模型
两阶段
微调技术
微调方法
文本
贪心算法
样本
无监督
系统为您推荐了相关专利信息
语音识别模型
标签
音频
大语言模型
语音识别方法