基于知识蒸馏的模型训练方法及电子设备

本申请公开了一种基于知识蒸馏的模型训练方法及电子设备。所述方法包括：通过多个教师模型对第一样本图像进行特征提取，得到N个局部类别对象的前景监督子特征和背景监督子特征；通过第一学生模型对第一样本图像进行特征提取，得到N个局部类别对象的第一前景特征和第一背景特征；根据前景监督子特征和第一前景特征对第一学生模型进行前景知识蒸馏，以及，根据背景监督子特征和第一背景特征对第一学生模型进行背景知识蒸馏；经过前景知识蒸馏和背景知识蒸馏之后的第一学生模型为第二学生模型；通过第二学生模型对第二样本图像进行图像预测，根据图像预测的预测结果对第二学生模型的模型参数进行调整。本申请能够在有限数量样本的前提下，基于多个教师模型蒸馏出并发能力强、精度高的学生模型。