摘要
本发明涉及自动驾驶技术领域,公开了一种端到端自动驾驶多模态数据融合方法及系统,所述方法包括:获取自动驾驶车辆的多个传感器数据、GPS数据以及车身数据,多个传感器数据包括激光雷达数据、相机数据以及毫米波雷达数据;对激光雷达数据和相机数据进行前融合处理,获得前融合结果;对前融合结果、毫米波雷达数据、GPS数据以及车身数据进行后融合处理,获得后融合结果,以实现多模态数据的融合,进一步地,基于所述前融合结果和所述后融合结果通过大模型技术实现自动驾驶决策,由此,实现了复杂驾驶环境下多模态数据的高效融合,提高了自动驾驶决策的准确性和可靠性,也提升了自动驾驶系统在动态环境下的稳定性与安全性。
技术关键词
扩展卡尔曼滤波算法
激光雷达数据
多模态数据融合
循环神经网络模型
卷积神经网络模型
车身
相机
传感器
数据获取模块
观测噪声
时间同步
自动驾驶系统
自动驾驶技术
方程
决策