一种轻量化掩码自编码器模型的训练方法及系统

本发明公开了一种轻量化掩码自编码器模型的训练方法及系统，训练方法包括：接收图像样本数据；在前向传播中，学生模型提取图像的学生模型特征，教师模型提取图像的目标特征，将学生模型特征和目标特征对齐；其中，教师模型为预训练的图像编码器；在反向传播中，利用知识蒸馏损失度量学生模型特征和目标特征，以损失最小化为目标，对学生模型的参数进行优化；学生模型包括编码器和解码器，解码器基于状态空间模型构建。本申请掩码自编码器模型可实现轻量化，在资源受限的环境中也可部署。