摘要
本发明提供了一种脑机融合的视觉导航方法、电子设备以及存储介质,可以应用于具身智能体导航技术领域。该方法包括:利用脑模块对观测图像进行特征提取,得到具有认知信息的神经表征;利用视觉‑目标模块对目标定位信息和观测图像进行处理,得到视觉‑目标表征;基于交叉注意力机制,利用多模态融合模块对神经表征和视觉‑目标表征进行融合,得到联合表征;利用策略模块对联合表征进行处理,得到运动控制指令,并基于运动控制指令控制目标对象完成视觉导航任务。本发明通过神经表征将高级认知能力引入到视觉导航智能体中,并通过多模态融合模块对齐了神经表征和视觉‑目标表征得到了更加一致的脑‑视觉联合表征,提高视觉导航智能体的鲁棒性。
技术关键词
交叉注意力机制
视觉导航方法
融合视觉导航
模块
视觉特征
编码器
多层感知机
智能体导航技术
门控循环单元
支路
图像
多模态
深度强化学习
样本
记忆机制
策略
电子设备
决策
系统为您推荐了相关专利信息
智能手机
样品架
温控模块
机械式温控开关
光谱特征参数
灾备管理系统
灾备系统
评估电力系统
数学计算模型
数据分析模块
性能测试系统
接收端信噪比
识别算法
信号处理器
信号发生器