摘要
本申请实施例提供了一种模型的参数量化方法、装置、电子设备及存储介质,涉及计算机技术领域。该方法包括:基于初始模型的第一模型参数以及目标量化定点位数,确定理论量化参数,并基于理论量化参数和目标量化定点位数确定零点值;基于理论量化参数确定候选量化参数;通过每一候选量化参数以及零点值对第一模型参数进行量化,得到各第二模型参数,并确定各第二模型参数的模型误差;将模型参数调整为最小模型误差的第二模型参数。通过目标量化定点位数获取满足需求的候选量化参数,并计算每一候选量化参数造成的模型误差,最终选取模型误差最小的候选量化参数作为目标量化参数进行量化,能在提高模型本身计算效率的同时,保持模型输出的精准度。
技术关键词
模型误差
参数量化方法
矩阵
元素
理论
校准
浮点数
信号
电子设备
处理器
模块
可读存储介质
存储器
计算机
系统为您推荐了相关专利信息
自然语言
查询方法
解码信息
语句
双向注意力机制
表面缺陷检测方法
图像
灰度共生矩阵
机器学习模型
皮尔逊相关系数
智能分拣方法
废旧塑料瓶
融合特征
点云
三维视觉传感器
参数寻优方法
温度控制系统
分解炉
水泥
状态空间模型