一种基于提示蒸馏的不完备多模态学习方法

AITNT
正文
推荐专利
一种基于提示蒸馏的不完备多模态学习方法
申请号:CN202511217499
申请日期:2025-08-28
公开号:CN120930722A
公开日期:2025-11-11
类型:发明专利
摘要
本发明提出了一种基于提示蒸馏的不完备多模态学习方法,旨在提升多模态模型在模态缺失场景下的鲁棒性与泛化能力。该方法融合知识蒸馏与提示学习的优势,构建了由分层提示生成器、教师网络和推理网络组成的协同框架,实现模态间共享知识与样本级细粒度信息的高效迁移。本方法首先构建并预处理多模态数据集;然后基于提示蒸馏机制,在教师网络和推理网络之间建立高效的知识传递机制;最后利用训练完成的提示生成器与推理网络对不完备模态样本进行推理,显著提升下游任务的准确性与适应能力。本发明通过提示生成器与双蒸馏机制的协同优化,在保持模型轻量化的同时显著提升了知识迁移效率,为复杂真实环境中的多模态学习提供了高效解决方案。
技术关键词
多模态学习方法 推理网络 教师 蒸馏 样本 数据 交叉注意力机制 编码器 分层 多层感知机 文本 图像像素 多层结构 超参数 索引 鲁棒性
系统为您推荐了相关专利信息
1
一种语言识别模型训练方法、语言识别方法及相关设备
语句 识别模型训练方法 样本 语言识别方法 复杂度
2
管制空域内无人机融合运行时管制员情境意识识别方法
识别方法 空中交通管制 电信号 样本 机器学习模型
3
一种电源可靠供电方法与系统
供电方法 融合特征 备用电源 预警模型 样本
4
基于深度混合人工智能的漫滩相软土压缩系数预测方法
深度混合模型 生成数据集 土样 深度学习模型 指数
5
一种基于大模型的企业社会信用自动评估方法
自动评估方法 TextRank算法 企业 命名实体识别技术 数据
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号