摘要
本发明公开了用于实现移动端目标感知的多模态网络剪枝方法及系统,方法包括:通过评估模块定义多模态信息融合时的融合匹配度量标准;其中,所述融合匹配度量标准用于衡量多模态融合特征与融合前的单模态特征之间的匹配相关性;通过剪枝模块基于所述融合匹配度量标准,对初始化的多模态感知模型中相应模态网络层进行非结构性剪枝;通过控制模块控制所述评估模块和所述剪枝模块在预设迭代次数内对所述模态网络层执行剪枝操作,直至模型收敛。该方法能有效地在多模态感知网络中修剪不重要的权重,并平衡融合前后的特征,最终实现多模态网络在移动端实时且高精度的部署。
技术关键词
多模态信息融合
网络剪枝方法
模态特征
掩码矩阵
融合特征
度量
控制模块
移动端
多模态网络
权重数
定义
分支
度函数
优化器
标签
系统为您推荐了相关专利信息
位置预测方法
语义
多模态
多任务损失函数
解码器
图像特征向量
细粒度特征
跨模态
特征提取网络
补偿式
电力设备故障诊断
计算机程序指令
注意力机制
跨模态
时序
识别方法
视觉特征
道路监控摄像机
交通信号灯状态
时序分析模块
意识障碍患者
学习方法
样本
通道注意力机制
特征提取器