摘要
本发明提供多模式智能交互机械臂系统,所述机械臂系统包括第一模式、第二模式、第三模式和第四模式,所述第一模式为基于机器视觉的机械臂与手势相互结合的抓取控制方法,即交互机械臂手势跟随控制模式;所述第二模式为交互机械臂的语音控制模式;所述第三模式为交互机械臂Web控制模式;所述第四模式为交互机械臂眼控跟随模式。本发明通过AI算法、语音大模型、Web网页、手势和眼动来控制机械臂进行人机交互,并构建了手势‑语音‑Web‑眼动四种模式的结构框架,实现了机械臂四种交互模式的多元化,扩宽了机械臂的应用领域,提高了机械臂的精度与准度,使其能适应复杂多变的使用场景,在复杂环境下也可在低失误下完成任务。
技术关键词
机械臂系统
运动控制模型
抓取控制方法
数据
坐标系校准
人手手势
图像
OpenCV算法
语音
样本
多模式
训练集
物理
眼睛