一种基于知识蒸馏和模型剪枝的模型优化方法及系统

AITNT
正文
推荐专利
一种基于知识蒸馏和模型剪枝的模型优化方法及系统
申请号:CN202510492790
申请日期:2025-04-18
公开号:CN120562519A
公开日期:2025-08-29
类型:发明专利
摘要
本发明公开了一种基于知识蒸馏和模型剪枝的模型优化方法及系统,属于电力运维技术领域。本发明的模型优化方法,包括:使用预训练的教师模型,对大量未标注的电力运维数据进行分割及预测,生成初步的分割mask,针对所述分割mask生成领域特定的伪标签;以所述伪标签作为监督信号,基于知识蒸馏方法训练轻量级学生模型,并使所述轻量级学生模型学习所述教师模型的软分布;采用基于稀疏训练的模块化剪枝策略,对所述轻量级学生模型进行剪枝,并基于电力领域的标注数据集,对模型参数进行调整,得到优化的轻量级学生模型。本发明用于电网设备运行维护,可降低缺陷漏检率,减少巡检频次。
技术关键词
模型优化方法 模型优化系统 知识蒸馏方法 剪枝策略 标签 学生 模型剪枝 故障代码数据 教师 重构策略 评分机制 电力运维技术 校正 中间层 电网设备 参数
系统为您推荐了相关专利信息
1
一种光伏逆变器控制系统
光伏逆变器 DSP系统 数据采集模块 太阳能板 逻辑模块
2
基于RFID的埋地管线全生命周期追踪数字孪生系统建立方法
数字孪生系统 数字孪生模型 RFID标签信息 特征提取算法 可视化平台
3
训练大语言模型的方法和装置
大语言模型 语句 答案 样本 文本
4
基于机器学习制备超低弹性模量钛合金的方法及钛合金
超低弹性模量 钛合金 分类器 遗传算法 Sigmoid函数
5
基于影视内容的相册推荐处理方法、装置及终端
场景特征 照片 关键帧 地点 标签
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号