一种基于图像特征裁剪和云边端知识蒸馏的轻量化ViT

本发明公开了一种基于图像特征裁剪和云边端知识蒸馏的轻量化ViT，属于计算机视觉与边缘计算技术领域，用于在算力受限的边缘设备上高效部署ViT模型，包括设计轻量化ViT Block和子采样Block：针对边缘设备部署复杂模型出现的问题，设计图像特征裁剪模块，边缘设备采集图像，筛选图像中高不确定样本作为知识蒸馏数据集与本地模型参数一同传输至云端，本发明针对资源有限、性能较弱的边缘设备部署ViT模型进行图像处理任务，对ViT进行轻量化处理，以在保证模型准确率的同时减少模型Flops。