摘要
本发明涉及一种多模态多源异构数据融合方法,包括以下步骤:S1、针对各模态数据设置独立转换模型,将文本、图像、视频及音频模态数据分别转换为中间特征向量;S2、标记不同模态中的相同数据与区别数据,所述相同数据为跨模态共享语义信息,所述区别数据为模态特有信息;S3、对相同数据复用共享特征向量,对区别数据进行模态特异性转换及降维处理;S4、将统一维度后的多模态特征向量输入融合模型,通过动态权重分配生成联合表征,本发明能够准确提取各模态数据特征以提升融合效果;通过标记、复用共享特征向量及对区别数据处理,减少计算量、去除冗余信息;还能动态分配模态权重,自适应调整融合策略,提高融合结果准确性与可靠性。
技术关键词
动态权重分配
数据
多模态
跨模态
注意力机制
分类器
融合策略
声学特征
语义向量
标记
文本
音频
成分分析
视频
关键帧
图像
节点
系统为您推荐了相关专利信息
修正算法
异常数据
机器学习模型
结构方程模型
训练集
异质
注意力机制
知识管理系统
多维知识管理
网络