基于模态层次融合的多模态知识图谱补全方法

本发明提出基于模态层次融合的多模态知识图谱补全方法，使用多模态知识图谱补全模型MHF来引入视觉特征和文本特征，模型包括：独立学习层：从多个模态分割的数据集的知识图谱独立学习结构嵌入、视觉嵌入、文本嵌入，同时采用缩放因子调整外部特征的规模；模态融合层：将结构特征分别与视觉特征和文本特征融合，得到两种融合嵌入，纳入最终的损失计算；语义约束层：通过因子交互正则化器对前述五种嵌入进一步处理，处理过程产生的额外的五个正则化损失项，计算在最终损失中；本发明通过整合结构数据与外部数据，从而更合理地应用视觉数据和文本数据，有效地提高了模型的表达能力，为知识图谱中实体的全面性和准确性表示提供了新的思路。