基于自适应温度的矢量匹配知识蒸馏方法及系统

本发明公开了一种基于自适应温度的矢量匹配知识蒸馏方法及系统，方法包括以下步骤：S1、将图像输入给定的教师模型与学生模型，教师模型与学生模型中的神经网络分别对图像进行若干卷积处理，再通过全链接层处理，分别得到模型输出的逻辑回归logit，学生模型与教师模型的logit分别通过softmax函数提取概率分布特征，在提取概率分布特征后引入自适应温度机制，进行温度蒸馏；S2、提取教师模型与学生模型概率分布的矢量特征并引入余弦距离损失、交叉熵损失和KL散度损失计算总损失。本发明充分考虑了学生模型与教师模型的概率分布特性，将二者的矢量特征进行提取，扩展了知识蒸馏的特征体系，解决了知识蒸馏全局池化导致的类别不统一问题，大大降低了因为单一数据过度不匹配导致的蒸馏误差增大问题。