摘要
本公开的实施例公开了一种基于神经网络模型的数据处理方法、装置、介质及设备。该方法包括:确定神经网络模型中当前算子计算得到的原始输出张量数据;确定原始输出张量数据的数据精度格式,以及确定原始输出张量数据的数值范围;确定与神经网络模型中当前算子的下一算子适配的目标数据精度格式,以及确定目标数据精度格式对应的目标数值范围;响应于原始输出张量数据的数据精度格式与目标数据精度格式不同,基于原始输出张量数据的数值范围和目标数值范围,确定当前算子对应的目标量化参数;基于目标量化参数,对原始输出张量数据进行量化处理,得到量化输出张量数据,以将量化输出张量数据输入下一算子。本公开能够提高神经网络模型的计算效率。
技术关键词
神经网络模型
格式
数值
数据处理方法
精度
参数
神经网络加速器
数据处理装置
电子设备
处理器
可读存储介质
指令
存储器
因子
计算机
系统为您推荐了相关专利信息
芯片数据处理方法
双精度浮点数
逼近算法
芯片数据处理技术
数据处理系统
硅钢级氧化镁涂层
电力设备
涂敷设备
缺陷检测方法
缺陷检测系统