摘要
本申请公开了一种基于大模型的多模态数据处理方法、装置、设备及介质。对多模态数据进行特征提取和关联挖掘,得到多模态数据特征;按照多种文本匹配方法的检索顺序,依次使用多种文本匹配方法在预先构建的知识库中对多模态数据特征进行文本检索,得到第一关联子图;基于多模态数据特征与预先构建的知识库中多模态数据的语义相似度,以及相似度阈值,确定第二关联子图;对第一关联子图和第二关联子图中的多个候选结果进行标准评估,并根据评估结果对多个候选结果进行排序,得到检索结果;将检索结果和多模态数据特征输入大模型中进行信息分析,得到提示信息和目标工具;将提示信息和目标工具发送给终端,并接收终端的数据处理结果。
技术关键词
文本匹配方法
多模态
数据处理方法
语义
模态特征
样本
摘要
语音激活检测
终端
音视频
数据处理装置
交互特征
数据处理模块
电子设备
处理器
关系
密度
可读存储介质
视频帧
系统为您推荐了相关专利信息
风险识别模型
产品标签
风险识别方法
标识
计算机设备
机器人
自动化测试方法
车载传感器
车辆
多模态特征
存储组件
数据存储方法
存储设备
键值
数据访问模式