摘要
本申请实施例提出的多模态识别模型训练方法、多模态数据识别方法及相关设备,方法包括:获取多条多模态训练样本对;基于多模态识别模型中的多粒度输出模型,将每条多模态训练样本对进行第一特征提取和第二特征提取,得到对应处理粒度不同的第一特征数据和第二特征数据,将每个第一特征数据和对应的第二特征数据进行混合处理,得到多粒度混合输出;基于多模态识别模型中的特征级混合模型,将每条多模态训练样本对进行特征级混合处理,得到每条多模态训练样本对应的特征级混合输出;基于多粒度混合输出和特征级混合输出计算得到多模态损失,并基于多模态损失对多模态识别模型进行更新,有效地提高多模态数据的识别精准性。
技术关键词
多模态
识别模型训练方法
数据识别方法
文本
图像训练样本
图文
多层感知机
概率分布函数
矩阵
模型更新
模块
度函数
处理器
编码
参数
可读存储介质
系统为您推荐了相关专利信息
一体化管理方法
管理策略
数据存储策略
资产
关键帧
热点
预训练语言模型
正交变换
关键词特征
动态更新
三维环境地图
双目视觉模块
规划导航路径
激光雷达点云数据
环境感知装置
多层特征融合
句法结构
编写系统
文本数据类别
命名实体识别