摘要
本发明提出基于多模态传感器融合的自动驾驶系统可靠性自诊断方法及平台,方法包括:获取图像模态数据,利用视觉Transformer模型进行特征提取,生成环境场景标签,表示当前环境的类型;通过对实际自动驾驶运行数据中的关键模态特征进行统计,获得对应每个环境场景标签的模态评分向量,用于反映每种传感器模态在该环境下的先验可信度,通过softmax计算模态信任权重,获得置信权重向量;基于所述置信权重向量对所述关键模态特征进行加权融合,得到融合特征;根据所述融合特征生成模态重构特征,并基于所述模态重构特征生成模态一致性误差向量;结合所述置信权重向量和所述模态一致性误差向量,确定当前系统的预警信号,用于判断系统是否存在融合退化或模态失效风险。
技术关键词
多模态传感器
模态特征
融合特征
误差向量
诊断方法
电磁传感器
重构
判断系统
场景结构
标签
误差函数
注意力机制
雨天环境
数据
图像
风险
模态分析
语义
雷达