摘要
本申请实施例公开一种跨模态数据对齐模型训练方法、装置、设备及介质。将图像数据和频谱数据分别输入到跨模态数据对齐模型中,输出用于表征图像数据中每个图像的第一特征,以及用于表征频谱数据中每个频谱的第二特征;根据第一特征和第二特征确定图像数据和频谱数据之间的对应的第一相似性特征和软间隔确定出跨模态数据对齐模型对应的第一损失值;确定图像数据和频谱数据之间对应的匹配概率,并基于匹配概率确定出跨模态数据对齐模型对应的第二损失值;根据图像数据中图像之间对应的第二相似性特征,以及频谱数据中频谱之间对应的第三相似性特征确定出跨模态数据对齐模型对应的第三损失值;根据第一损失值、第二损失值和第三损失值训练上述模型。
技术关键词
跨模态数据
模型训练方法
图像
样本
双曲正切函数
模型训练装置
可读存储介质
处理器
模块
因子
计算机设备
语义
存储器
参数
指令
系统为您推荐了相关专利信息
机器人主体
清洗单元
超声波检测模块
清洗机构
无损检测方法
嵌入式微控制器
平整度检测系统
平整度检测方法
多旋翼无人机系统
激光
多尺度特征融合
变电站巡检
高斯混合模型
数据
长宽比
智能电表故障
图像特征向量
预警方法
交叉注意力机制
多参数
预警算法
冲击地压预警方法
微震事件
冲击地压危险性
微震监测数据