模型的量化推理方法、装置、电子设备及存储介质

本申请提供一种模型的量化推理方法、装置、电子设备及存储介质，涉及计算机的技术领域。模型的量化推理方法，包括：获取标定数据集合；所述标定数据集合中包括有多条用于输入至待量化模型中的输入数据，每条所述输入数据均为包括至少一个标量参数的向量；将所述标定数据集合中的输入数据依次输入待量化模型中；在将所述标定数据集合中的输入数据均输入所述待量化模型后，针对所述待量化模型中的每一层神经网络结构，分别计算该层神经网络结构对应的输入量化参数、神经网络量化参数、输出量化参数；基于每层神经网络结构分别对应的输入量化参数、神经网络量化参数、输出量化参数，对所述待量化模型进行量化推理。