摘要
本申请实施例提供一种模型知识蒸馏方法及相关装置,至少应用于人工智能领域,其中方法包括:基于训练数据集,从第一图像分类模型的第一卷积层的多个通道中,确定第一特征通道;基于第一特征通道的通道参数,对第一图像分类模型进行模型结构增强,得到第二图像分类模型;通过第一图像分类模型和第二图像分类模型,对预设的学生模型进行知识蒸馏,得到训练后的学生模型。本申请通过确定关键特征通道,通过关键特征通道确定第二图像分类模型,结合第一图像分类模型和第二图像分类模型对学生模型进行知识蒸馏,从而提高模型的知识蒸馏效果。
技术关键词
图像分类模型
知识蒸馏方法
通道
积层
学生
计算机可执行指令
参数
数据
计算机程序产品
存储器
处理器
样本
电子设备
系统为您推荐了相关专利信息
生物识别元件
电极结构
微流体通道
表面波
氧化石墨烯薄膜
轨迹分类方法
轨迹分类模型
注意力机制
生成轨迹
船舶
调度控制系统
货叉
移动机器人
龙门架
机器人调度技术