多模态数据处理方法、装置、存储介质及电子设备

AITNT
正文
推荐专利
多模态数据处理方法、装置、存储介质及电子设备
申请号:CN202411058820
申请日期:2024-08-02
公开号:CN119226992B
公开日期:2025-07-18
类型:发明专利
摘要
本发明公开了一种多模态数据处理方法、装置、存储介质及电子设备。其中,所述方法包括:获取待识别的多模态数据,所述多模态数据包括图像数据和文本数据;获取所述图像数据对应的图像嵌入向量,基于预训练融合词表将所述图像嵌入向量转换为预融合编码向量;所述预训练融合词表为根据图像训练样本得到的用于减少图像特征的编码量的编码本;将所述预融合编码向量和文本数据对应的文本嵌入向量进行组合,得到目标多模态向量。本发明解决了相关技术中多模态大语言模型占用计算资源较多,难以有效地理解和融合多模态信息,整体性能不佳的技术问题。
技术关键词
图像训练样本 图像嵌入 图像编码 图像处理模型 编码向量 数据识别模型 文本 融合多模态信息 生成重构图像 生成对抗网络 电子设备 数据处理装置 大语言模型 存储器
系统为您推荐了相关专利信息
1
一种基于多模态多任务学习的机器人分类检测方法及系统
分类检测方法 语义注意力 多模态 机器人 多任务
2
微表情识别模型构建方法、微表情识别方法及相关装置
图像特征提取 识别模型构建方法 网络 微表情识别方法 控制模块
3
多模态虚假新闻数据的处理方法、装置、设备以及介质
变量 文本 多模态 样本 图像数据分割
4
基于语义理解的多语言情感识别方法
情感识别方法 情感特征 平行语料库 多语言 语义向量
5
一种计及移相变压器的双层配电网日前优化调度方法
日前优化调度方法 双层优化模型 配电网运行数据 节点 配电网系统
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号