一种基于梯度缩放校正的量化神经网络训练方法

本发明公开了一种基于梯度缩放校正的量化神经网络训练方法，其中，神经网络模型用于部署在边缘设备上执行推理任务，所述方法包括以下步骤：基于后训练量化方法对预训练的神经网络模型进行量化参数处理，获得量化模型；基于待训练数据集对量化模型进行前向传播；对量化模型的输出结果进行反量化，然后基于损失函数进行处理并向后传播；基于梯度缩放校正方法对量化模型的各层梯度进行缩放处理；基于缩放后的梯度对量化模型的网络参数进行更新。本发明提出的训练方法能够避免神经网络训练过程出现的梯度扭曲和激活分布异常，能够直接完成神经网络模型的有效训练。