基于图像识别的目标检测卷积神经网络的量化方法及设备

本发明公开了一种基于图像识别的目标检测卷积神经网络的量化方法及设备，方法包括：构建一组副网络模型，在对基于图像识别的目标检测卷积神经网络模型进行预训练过程中，对模型中的各卷积层和池化层的输出进行处理后，分别输出三个权重参数；根据三个权重参数分别计算各层对应的量化梯度值；根据各层的量化梯度值与量化阈值的关系，对模型的各卷积层和池化层分别进行量化；用量化后的权重替换模型的原有权重后重新进行训练。本方法通过副网络将主网络结构中的权重参数按重要程度进行分类得到量化梯度值，然后将主网络中一部分FP32格式的权重参数按梯度转换为低精度数据，从而实现了在降低模型大小和计算量的同时，保持一定的精度。