摘要
本发明提供了一种动态轮廓注意力驱动的跨模态融合方法及系统,所述方法包括:从三维点云数据中分割生成一组携带纯三维几何属性的零件节点;通过将零件节点精确投影至二维图像,形成与其轮廓紧密贴合的动态不规则感兴趣区域;采用可变形注意力机制,在所述感兴趣区域内自适应地确定信息量最丰富的若干采样点,并对采样点的视觉特征进行加权池化,得到代表性的语义特征向量,完成对所述零件节点的跨模态属性化;基于已完成属性化的零件节点集合构建动态无向属性图,并通过图神经网络进行关系推理与实例聚合,输出最终的感知结果。本发明有效降低了信息损失与传感器标定敏感度,显著提升了系统在遮挡等复杂场景下的鲁棒性、可解释性及计算效率。
技术关键词
动态轮廓
融合方法
采样点
零件
二维图像特征
三维点云数据
节点
感兴趣
基元
跨模态
融合系统
坐标
网络
视觉特征
注意力机制
语义特征
系统为您推荐了相关专利信息
磁性过滤器
组装平台
组装台
安装座
零件组装技术
对象
故障预测模型
运动
预测故障率
路径规划方法
零件机械加工
数据管理系统
工艺知识驱动
典型
编程