摘要
本公开实施例公开了一种神经网络模型的量化方法、装置、介质和设备,其中,方法包括:基于神经网络模型运算时的运算算子及对应的输入数据,确定输入数据对应的量化输入数据;从多个预设数据区间中确定量化输入数据对应的目标数据区间,多个预设数据区间基于量化算子的输出值随输入值的变化梯度大小确定;量化算子为运算算子量化后的算子;基于量化输入数据和目标数据区间对应的索引信息,确定量化输入数据对应的目标量化输出值;基于目标量化输出值,确定输入数据经运算算子计算后的量化结果。本公开实施例可以提高整体查表精度。
技术关键词
索引
数据
神经网络模型
非线性
误差
线段
电子设备
处理器
参数
可读存储介质
指令
模块
存储器
计算机
精度
关系
系统为您推荐了相关专利信息
对话机器人
客户
在线机器人
引导系统
NLP技术
无人机集群对抗
导弹
基线
无人机集群协同
多智能体强化学习
综合评估方法
区域卫生信息平台
语义向量
学生
强化学习模型