一种基于多模态大模型的家务助理机器人

本发明公开了一种基于多模态大模型的家务助理机器人，属于机器人控制、自然语言处理、计算机视觉的交叉领域，包括：静态场景处理模块、动作模块和控制模块；静态场景处理模块用于扫描工作环境，并对工作环境进行3D建模；动作模块用于实现机器人的水平方向的运动，以及对物体的交互动作；控制模块用于控制动作模块的动作，并基于多模态大模型LLaVa‑13B构建监督模型，基于监督模型对动作进行评价，再基于评价结果对动作进行调整。本发明的机器人对家用场景的泛化能力更强，比如家用场景中对特定物体的捡取、擦拭清洁、整理等任务高效的执行，在积累特定任务数据后，扩展机器人的能力，极大的提高用户的生活幸福指数。