一种基于特征强化和融合的视频描述方法

本文提供了一种基于特征强化和融合的视频描述方法，包括步骤：多模态特征提取，提取外观特征、运动特征和对象特征；语义特征提取，外观特征和运动特征串联输入到语义检测器提取语义特征；特征增强，利用局部和全局特征为模型提供正确的细节引导，放大相似物体的特征差异，提高目标主体编码特征的准确性；多模态特征融合，以外观特征为引导，筛选运动特征和对象特征中与内容更相关的视觉信息，并对特征进行融合，形成统一的多模态融合特征；特征解码，利用Transformer模型的解码器部分对编码进行解码；最后，生成视频描述内容。与现有的视频描述方法相比，通过特征增强，使得视频重点区域特征的定位识别更精确；同时通过跨模态融合网络，提升解码器的语义解码准确度，使得生成的视频描述更加准确。