摘要
本发明涉及一种多模态智能机器人系统及交互方法,属于机器人数字数据处理技术领域,包括如下步骤:步骤S1:多模态输入采集;步骤S2:多模态输入预处理;步骤S3:多模态信息融合,输入至预训练的多模态特征融合模型,通过量化特征数据融合机制对各模态特征进行特征融合,得到用户交互意图向量以及用户情绪状态向量;步骤S4:交互响应生成,基于用户交互意图向量匹配预设的交互响应策略库,得到基础响应内容,结合用户情绪状态向量对基础响应内容进行情绪适配调整,生成包含文本信息、语音信息以及动作信息的多模态响应内容;步骤S5:交互反馈执行;本发明有益效果:通过基础响应内容、用户情绪状态向量,实现机器人融合多模态信息、动态优化交互。
技术关键词
多模态智能机器人
多模态信息融合
多模态特征融合
图像采集装置
数据融合机制
语音输入信息
交互方法
图像特征点提取
意图
语音播放装置
触控感应装置
语音采集装置
声音采集装置
控制驱动装置
执行动作信息
文本
策略
系统为您推荐了相关专利信息
多传感器融合
语义分割方法
多模态数据融合
网络解码器
双网络
智能推荐方法
多模态特征融合
标签
时间序列特征
文本
设备故障概率
优化人机交互
数据融合机制
管理方法
脑机接口设备
融合多模态特征
视觉感知特征
实体识别方法
融合特征
图像
人工智能图像识别
石墨方块
图像采集装置
图像采集设备
CSP结构