摘要
本申请公开了一种模型的量化方法、装置、电子设备、存储介质及程序产品,涉及计算机技术领域,包括确定待量化的第一神经网络模型。将第一神经网络模型的多个目标层的神经网络的权重参数由第一预设位数的浮点数转换为第二预设位数的整数,得到第二神经网络模型。在第二神经网络模型接收到待推理的数据的情况下,将多个目标层的神经网络的输入激活值由第一预设位数的浮点数转换为第二预设位数的整数。通过对目标层的神经网络的权重参数和输入激活值进行同等精度的等位量化处理,解决了因权重参数和输入激活值的量化精度不一致而带来的无法收敛的问题或出现乱码的技术问题,达到了降低第二神经网络模型的输出结果的错误率的技术效果。
技术关键词
神经网络模型
浮点数
参数
数值
自然语言文本
嵌入式设备
移动设备
电子设备
可读存储介质
解码
存储计算机程序
格式
关系
因子
错误率
数据
处理器
模块
系统为您推荐了相关专利信息
加气设备
安全监管
物联网系统
历史运行数据
加气站
人工蜂群算法
释放控制方法
微胶囊
多模态
传感器
光伏电站
组合深度
多模态
数值天气预报数据
气象
热循环控制方法
设备结构部件
调控模型
玻璃
参数