一种基于知识蒸馏的视频问答模型及多模态知识蒸馏方法

本发明提供一种基于知识蒸馏的视频问答模型及多模态知识蒸馏方法，基于知识蒸馏的视频问答模型为多模态知识蒸馏架构。知识蒸馏的机制目前来主要应用于模型的压缩方面。该机制首先训练一个超大型的教师模型，其通过大量的参数学习来达到更好的效果。之后通过构建一个轻量级的学生模型，其不仅学习训练集真实标签的知识，同时还学习大型的教师模型训练后所蒸馏出来的知识，以更小的参数体量来逼近大型的教师模型的预测效果，达到模型压缩的目的。