摘要
本发明公开了一种基于因果表征的多模态影像融合分析方法及系统,所述方法包括:提取初始特征图,因果解耦模块将初始特征图映射解耦为因果因子和混淆因子;可学习的模态扰动模块在混淆因子上引入自适应扰动机制,保持因果因子不变,通过在模型中引入不同级别的扰动,以使模型有效泛化到未知域;多模态特征融合模块将不同模态的因果因子特征进行拼接得到融合因果因子特征,进行展平后输入到自注意力层进行特征交互,通过分类器进行分类后输出图像的类别。本发明采用因果关系驱动的方法,通过因果解耦模块剔除无关混淆因子,保留关键因果因子,以减少干扰并强化关键特征,同时引入自适应模态扰动模块,增强模型对不同数据分布的适应性和泛化能力。
技术关键词
融合分析方法
因子
多模态特征融合
多层感知机
影像
分类器
分析系统
模块
注意力
特征提取器
图像
编码器
标签
可读存储介质
矩阵
通道
处理器
数据分布
机制
系统为您推荐了相关专利信息
模拟展示系统
全息成像
影像校正单元
模拟单元
数据存储模块
极化SAR影像
协方差矩阵
Softmax函数
Wishart距离
双层网络结构