基于神经网络模型的数据处理方法、装置、介质及设备

AITNT
正文
推荐专利
基于神经网络模型的数据处理方法、装置、介质及设备
申请号:CN202411954683
申请日期:2024-12-26
公开号:CN119886222A
公开日期:2025-04-25
类型:发明专利
摘要
本公开的实施例公开了一种基于神经网络模型的数据处理方法、装置、介质及设备。该方法包括:确定神经网络模型中当前算子计算得到的原始输出张量数据;确定原始输出张量数据的数据精度格式,以及确定原始输出张量数据的数值范围;确定与神经网络模型中当前算子的下一算子适配的目标数据精度格式,以及确定目标数据精度格式对应的目标数值范围;响应于原始输出张量数据的数据精度格式与目标数据精度格式不同,基于原始输出张量数据的数值范围和目标数值范围,确定当前算子对应的目标量化参数;基于目标量化参数,对原始输出张量数据进行量化处理,得到量化输出张量数据,以将量化输出张量数据输入下一算子。本公开能够提高神经网络模型的计算效率。
技术关键词
神经网络模型 格式 数值 数据处理方法 精度 参数 神经网络加速器 数据处理装置 电子设备 处理器 可读存储介质 指令 存储器 因子 计算机
系统为您推荐了相关专利信息
1
单精度芯片数据处理方法、系统、芯片、设备和存储介质
芯片数据处理方法 双精度浮点数 逼近算法 芯片数据处理技术 数据处理系统
2
一种缺陷检测方法、电子设备、存储介质及程序产品
缺陷检测方法 缺陷扫描设备 晶圆形貌 版图 参数
3
电力生产系统操作合规性监控与预警方法
词嵌入向量 合规性 预警方法 文本 日志
4
用于硅钢级氧化镁涂层的缺陷检测系统及方法
硅钢级氧化镁涂层 电力设备 涂敷设备 缺陷检测方法 缺陷检测系统
5
数字孪生模型的建模方法和装置
数字孪生模型 终端 异构 建模方法 参数
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号