摘要
本发明属于计算机视觉技术领域,具体涉及一种基于伪点云特征优化的相机多模态融合3D目标检测方法,包括:获取双目图像数据和激光雷达点云数据;基于双目图像数据,提取双目图像特征,采用立体匹配网络估计预测,结合相机参数映射至三维空间生成伪点云数据;对点云数据和伪点云数据分别进行特征编码,获取点云特征信息和伪点云特征信息,采用点云特征信息监督训练伪点云特征解码器,重构并生成优化的伪点云数据;结合双目图像特征,采用多模态特征融合网络跨模态融合,利用检测头构建基于伪点云特征优化的相机多模态融合3D目标检测模型;采用基于伪点云特征优化的相机多模态融合3D目标检测模型对双目图像进行目标检测,生成目标检测结果。
技术关键词
点云特征
多模态特征融合
图像
相机
解码器
残差模块
表达式
重构
融合特征
加权特征
网络
跨模态
深度值
车载摄像头
检测头
编码器
激光雷达点云数据
中间层