模型参数的量化方法、装置、计算设备及存储介质

本申请提供了一种模型参数的量化方法、模型运行方法、装置、计算设备和存储介质。在对模型参数进行量化处理时，识别目标模型包括的层结构分别对应的异常通道，切换异常通道对应的参数在参数矩阵中的位置将参数矩阵切分为异常通道矩阵和非异常通道矩阵，对非异常通道矩阵进行参数量化处理，将不同参数矩阵之间的融合计算替换为，不同参数矩阵对应的整数型矩阵之间的融合计算，以及不同参数矩阵对应的异常通道矩阵之间的融合计算，尽可能充分利用计算硬件中更高效的整数计算单元加速推理，提高模型推理的效率，同时避免了异常参数在低比特整数型矩阵的运算中对整体计算精度的影响，保证了计算结果的准确性。