摘要
本发明提供一种基于空间科学实验视频的果蝇多目标跟踪方法及系统,该方法首先通过提取果蝇空间科学实验视频中帧图像的光流信息,实现微重力运动解耦。然后,将静态外观特征、运动光流特征和热力图特征进行多模态特征渐进融合。接下来,根据融合后的目标融合特征进行条件化预测,确定热力图预测结果和偏移量预测结果,以及目标尺寸预测结果。最后,根据预测结果进行偏移预测关联,在偏移预测关联成功的情况下,根据预测结果更新目标果蝇运动轨迹信息,确定多目标跟踪结果。该方法基于外观‑运动双模态融合的多目标跟踪框架,通过提取光流信息实现运动特征解耦,并与静态外观特征进行多模态渐进式特征融合,实现了对果蝇精准、稳定地多目标跟踪。
技术关键词
多模态特征
交叉注意力机制
光流特征
融合特征
热力图
运动轨迹信息
前馈神经网络
检测网络模型
图像提取模块
检测点
跟踪方法
表达式
尺寸
像素点
特征提取模块
拼接模块