一种深度神经网络的剪枝优化方法和系统

本申请提供一种深度神经网络的剪枝优化方法和系统，方法包括以下步骤：对初始神经网络模型进行量化处理，生成量化后的神经网络模型；对所述量化后的神经网络模型进行预训练，实施第一次剪枝处理，从而压缩模型，生成预训练神经网络模型；将所述预训练神经网络模型转化为计算图，对所述计算图进行第二次剪枝处理，搜索规范解，生成剪枝后的计算图；对所述剪枝后的计算图进行微调优化，分配内存，生成剪枝优化后的神经网络模型，并在移动设备上执行。第一次剪枝，在保证精度的前提下压缩了模型，第二次剪枝仅搜索规范解，极大地减少了搜索空间，提高了推理效率，并且将硬件内存使用量降至最低，与现有技术相比，推理速度显著提高，且没有精度损失。