基于模型蒸馏的电力系统特定细分场景模型构建方法

本申请涉及电力系统智能化技术领域，尤其是涉及一种基于模型蒸馏的电力系统特定细分场景模型构建方法，其包括获取电力领域预训练大模型、通过模型蒸馏技术迁移知识至轻量化学生模型、施加结构化稀疏裁剪和滤波器裁剪压缩参数规模，以及使用少量标注数据微调适配特定场景。本申请能够显著降低模型复杂度和计算成本，同时保证高精度推理性能，为资源受限环境下的电力业务场景提供定制化轻量化解决方案，助力电力系统智能化发展。