摘要
本公开提供了一种量化计算方法、装置、电子设备及存储介质,量化计算方法用于量化计算装置,量化计算装置包括转换模块、计算模块和量化模块,方法包括:所述转换模块获取带有符号的第一输入数据,对带有符号的所述第一输入数据进行符号转换处理,得到无符号的第二输入数据;所述计算模块获取所述第二输入数据,对所述第二输入数据和存储在所述计算模块的带有符号的权重数据进行存内计算,得到第一计算结果;所述量化模块基于所述符号转换处理对应的偏移值对所述第一计算结果进行数据量化,得到量化输出结果。基于本公开的量化计算方法,能够在存算一体芯片上提高数据稀疏性,降低量化复杂度。
技术关键词
量化计算方法
符号
模数转换模块
加法器
参数
电子设备
处理器
可读存储介质
矩阵
阵列
数据总线
规模
存储器
程序
计算机
复杂度
芯片
系统为您推荐了相关专利信息
异物入侵检测方法
特征提取网络
多尺度特征提取
特征金字塔网络
轨道
智能变送器
数模转换模块
模数转换模块
稳压芯片
电源模块
追踪航天器
集群
航天器飞行技术
罗德里格斯参数
姿态动力学模型
水情数据
水情监测方法
水情监测系统
曲线
LSTM模型
历史温度数据
PID控制参数
氨基酸配方粉
氨基酸粉末
LSTM模型