一种基于动态图神经网络的大模型知识蒸馏架构与高效训练方法及系统

本发明涉及多模态学习技术领域，具体为一种基于动态图神经网络的大模型知识蒸馏架构与高效训练方法及系统，包括以下步骤：构建动态图神经网络，提取大语言模型知识，设计知识蒸馏架构，实现高效训练技术；有益效果为：通过动态图神经网络提取语义知识，并将其融入知识蒸馏过程，学生模型能够更深入地学习教师模型的知识，从而实现高效的知识迁移；将大语言模型的知识迁移到轻量级的学生模型中，显著降低了模型的参数规模和计算复杂度，使得模型更适合在资源受限的环境中部署。