摘要
本发明所提供的基于多模态蒸馏的相机三维目标检测方法和系统,涉及目标检测技术领域,该方法包括:确定训练好的以点云和多视角相机图像作为输入的多模态教师模型,利用教师模型中的点云特征对构建出的以多视角相机图像作为输入的学生模型进行跨模态对比蒸馏,使其具备空间几何推理能力构造出伪点云特征,利用多模态适应性平滑蒸馏方式,对齐基于伪点云特征和图像特征异构融合得到的学生模型特征和基于点云特征和图像特征通道融合得到的教师模型特征,在教师模型的回归输出优于学生模型的回归输出时,选择将其回归框知识蒸馏至学生模型中,通过上述训练过程,能够保证学生模型和教师模型结构上的一致性,提高学生模型的三维目标检测准确性。
技术关键词
多模态
学生
教师
蒸馏
图像
样本
相机
点云特征
位置提取
跨模态
强度
加权特征
视角
注意力
通道
误差
度函数
异构
全局平均池化
场景
系统为您推荐了相关专利信息
光学系统
摄像元件
图像
深度图
学习模型生成装置
标注系统
VR交互
VR手柄
三维网格模型
搭建模块
梯度下降优化算法
大气散射模型
暗通道先验
多光谱技术
去雾图像
遥感影像识别方法
纹理特征
烟气
秸秆
图像识别模块
特征X射线
蒙特卡洛模拟方法
矿物识别方法
扫描电镜
样品台