模型压缩方法、装置、电子设备、存储介质、系统和计算机程序产品

本公开涉及一种模型压缩方法、装置、电子设备、存储介质、系统和计算机程序产品，所述方法包括：将训练数据分别输入到待压缩模型和教师模型，得到待压缩模型的输出和教师模型的输出，待压缩模型和教师模型的网络结构相同，教师模型是预先训练得到的，待压缩模型是随机初始化得到的；基于待压缩模型的输出，通过门控网络剪枝模块对待压缩模型进行剪枝，得到学生模型；将训练数据输入到学生模型，得到学生模型的输出；基于学生模型的输出和教师模型的输出，计算蒸馏损失；基于蒸馏损失对待压缩模型和门控网络剪枝模块进行训练；通过训练好的门控网络剪枝模块对训练好的待压缩模型进行剪枝，得到压缩后的模型。解决了简化网络性能不佳的问题。