一种基于迭代剪枝的教师-学生模型自动匹配方法

本发明涉及知识蒸馏技术领域，公开一种基于迭代剪枝的教师‑学生模型自动匹配方法，包括：S1：获取预训练的教师模型；S2：对教师模型执行迭代剪枝过程，具体包括：对教师模型进行剪枝操作；对剪枝后的教师模型进行微调；将微调后的教师模型作为潜在的学生模型进行存储；判断是否满足预设的迭代终止条件，若否，则返回剪枝操作；S3：基于预设的评分标准，从存储的若干潜在的学生模型中选择最佳学生模型。通过引入基于迭代剪枝的策略，能够自动地从教师模型出发，生成不同规模和性能的学生模型，并利用预设的评分标准从中选择出与教师模型最匹配的学生模型；自动化生成和选择的方式，降低了手动设计的不确定性，并避免传统NAS方法的高计算开销。