摘要
提供一种误差补偿方法及装置、计算机可读存储介质、计算装置。该误差补偿方法包括:获取对神经网络模型进行量化获得量化模型的过程中产生的多个权重量化误差中的预定比例的权重量化误差,其中,所述预定比例的权重量化误差是基于所述多个权重量化误差对所述量化模型的精度的影响程度确定的;基于所述预定比例的权重量化误差和所述量化模型的量化权重矩阵,对所述量化模型的输出进行补偿,得到所述量化模型的补偿后的最终输出,从而在保障量化模型的输出结果的精度的情况下,显著减小了用于对量化模型进行误差补偿的数据存储的内存开销。
技术关键词
量化误差
误差补偿方法
矩阵乘法运算
神经网络模型
舍入误差
误差补偿装置
处理器
可读存储介质
索引
精度
存储器
计算机
数据存储
内存
系统为您推荐了相关专利信息
状态评估方法
桥梁状态评估
评估桥梁
神经网络模型
数据采集设备
钢框架柱
抗震能力评估方法
延性金属
钢柱
非线性映射关系