基于多阶段知识蒸馏的自迭代训练方法及系统

本发明属于人工智能技术领域，涉及一种基于多阶段知识蒸馏的自迭代训练方法及系统，所述方法包括：1)采用推理模型构建包含四元组结构的视觉推理数据集；2)将视觉推理数据集按索引顺序等分为多个互斥子数据集，分别用每一个子数据集对视觉语言模型进行监督微调和评价以获得监督微调最优模型；3)实施基于规则奖励的强化学习训练和评价以获得强化学习最优模型；4)对视觉推理数据集进行知识蒸馏和清洗，以获得清洗后的蒸馏数据集；5)重复执行步骤2)‑4)并进行评价，在达到收敛状态时停止迭代并将最后一轮迭代得到的强化学习最优模型作为全局最优模型。其在显著降低训练成本的同时有效提升了视觉语言模型的视觉推理能力。