一种面向具身智能设备的视觉模型压缩方法

本发明公开了一种面向具身智能设备的视觉模型压缩方法，包括选择教师模型和一个学生模型，利用教师模型和学生模型对数据集进行前向传播，获取其中间层特征表示及其对于各个类别的原始得分；将教师模型输出的概率分布和学生模型输出的概率分布作比较，计算两者之间的散度，作为响应损失；将教师模型与学生模型的中间层特征表示作比较，作为对比损失；将学生模型输出的概率分布与真实标签作比较，计算两者之间的交叉熵，作为硬损失；将响应损失、对比损失和硬损失按权相加，形成总损失函数，并对学生模型进行训练；通过随机梯度下降调整学生模型的参数，最小化总损失函数，实现模型压缩。该方法提供高效的视觉感知能力。