摘要
本说明书实施例公开了一种基于大模型的多模态数据融合方法及装置,包括:将待处理的多模态数据转换为各模态对应的嵌入向量;基于预设的CNN模型,提取所述各模态对应的嵌入向量的特异特征,获得特异特征;基于所述特异特征,通过预设的强化学习算法,确定所述特异特征的权重;基于所述特异特征的权重,添加门控控制,对所述特异特征进行特征提取,获得共享特征,所述共享特征为所述待处理的多模态数据的融合结果。
技术关键词
数据融合方法
特异
局部特征提取
强化学习算法
sigmoid函数
表格
时间序列信息
门控循环单元
文本
音频
策略
语法结构
数据融合装置
多模态数据融合
图像数据分割
梅尔倒谱系数
蒙特卡洛方法