摘要
本申请实施例提供一种多模态知识图谱构建方法及装置,包括:获取具有关联关系的图像和文本;对所述图像和文本进行特征提取,得到图像特征和文本特征;将所述图像特征和文本特征输入预先构建的知识图谱模型,利用所述知识图谱模型基于训练得到的提示向量对所述图像特征和文本特征进行多模态融合处理,得到多模态融合特征;基于所述多模态融合特征,识别多个实体及实体间的关联关系,确定多模态知识图谱的三元组。本申请通过持续学习、多模态融合与提示学习相结合的方法,优化多模态知识图谱的构建过程,适用于动态变化的知识图谱场景,能够有效提升知识图谱构建任务的性能。
技术关键词
知识图谱模型
文本
多模态
融合特征
图像全局特征
图像局部特征
样本
实体
条件随机场
知识图谱构建装置
三元组
多层感知机
关系
更新知识图谱
参数
注意力
系统为您推荐了相关专利信息
前列腺癌预测系统
指标
数据处理模块
图像处理模块
多模态
文本
样本
标签
Softmax函数
BERT模型
缺陷检测方法
孔隙检测
时序特征
裂纹特征
多分支
局部图像特征
检测报告生成方法
融合特征
物体检测模型
图像语义提取
智能分级系统
多模态
跨模态融合特征
通道注意力机制
可见光