一种单阶段渐进式知识提炼的师生协同演化方法

本申请的实施例涉及深度学习技术领域，特别涉及一种单阶段渐进式知识提炼的师生协同演化方法，包括：将总训练时间划分为K个时间窗口，并将教师模型的各层划分为K个渐进小组，教师模型与教师端知识适配器连接；在当前时间窗口对应的训练中，将标注有真实标签的训练样本分别输入至学生模型和教师模型，得到学生模型输出的学生预测结果、学生模型的最后一层卷积层输出的学生特征和教师端知识适配器输出的融合特征；基于学生预测结果、真实标签、学生特征和融合特征构建知识蒸馏损失以更新学生模型的参数；基于真实标签和融合特征构建渐进式恢复损失以更新教师端知识适配器的参数，最终得到训练完成的学生模型，从而实现高效且稳定的知识迁移。