一种解码高效的针对量化后的模型参数的熵编码方法

本发明公开了一种解码高效的针对量化后的模型参数的熵编码方法，包括：使用标准的深度学习方法训练卷积神经网络CNN模型，包括卷积神经网络CNN模型中每一层的权重学习和优化；在训练后的模型中采用比特分配优化方法；采用死区量化技术对模型的权重进行量化处理；经过量化处理的权重进一步通过改进型Tunstall进行编码，采用固定长度的熵编码技术对权重数据进行压缩；压缩后的模型被加载到目标硬件平台中进行推理；通过改进型Tunstall解码对编码后的权重数据进行解码；解码后的模型在硬件平台上执行神经网络运算，最终输出推理结果；本发明优化卷积神经网络模型，在保持推理精度的同时显著提高推理效率。