一种融合剪枝量化联合优化的模型压缩方法

本发明提供了一种融合剪枝量化联合优化的模型压缩方法，包括：获取待剪枝的模型；获取为模型构建的量化模块，其通过可学习的量化参数对模型的可训练参数进行量化以得到对应的量化值，其中，每个可训练参数对应的量化值比其自身的数据量更小；利用训练语料对模型和量化模块进行剪枝和量化优化的联合训练，得到经联合训练后的模型和量化模块，其中，训练时的正向传播中用可训练参数对应的量化值来暂代可训练参数进行计算，反向传播中以最小化预设的总损失函数的值为目标对可训练参数和量化参数进行更新；对经联合训练后的模型进行剪枝，得到剪枝后的模型；利用经联合训练后的量化模块对剪枝后的模型中的可训练参数进行量化，得到经量化后的模型。