量化计算方法、装置、电子设备及存储介质

AITNT
正文
推荐专利
量化计算方法、装置、电子设备及存储介质
申请号:CN202510065478
申请日期:2025-01-15
公开号:CN119783736A
公开日期:2025-04-08
类型:发明专利
摘要
本公开提供了一种量化计算方法、装置、电子设备及存储介质,量化计算方法用于量化计算装置,量化计算装置包括转换模块、计算模块和量化模块,方法包括:所述转换模块获取带有符号的第一输入数据,对带有符号的所述第一输入数据进行符号转换处理,得到无符号的第二输入数据;所述计算模块获取所述第二输入数据,对所述第二输入数据和存储在所述计算模块的带有符号的权重数据进行存内计算,得到第一计算结果;所述量化模块基于所述符号转换处理对应的偏移值对所述第一计算结果进行数据量化,得到量化输出结果。基于本公开的量化计算方法,能够在存算一体芯片上提高数据稀疏性,降低量化复杂度。
技术关键词
量化计算方法 符号 模数转换模块 加法器 参数 电子设备 处理器 可读存储介质 矩阵 阵列 数据总线 规模 存储器 程序 计算机 复杂度 芯片
系统为您推荐了相关专利信息
1
一种轨道线异物入侵检测方法及系统
异物入侵检测方法 特征提取网络 多尺度特征提取 特征金字塔网络 轨道
2
一种智能变送器
智能变送器 数模转换模块 模数转换模块 稳压芯片 电源模块
3
一种基于星载GPS定位对微小卫星集群组装的滑模控制方法
追踪航天器 集群 航天器飞行技术 罗德里格斯参数 姿态动力学模型
4
一种基于深度学习的湖泊水情监测方法及系统
水情数据 水情监测方法 水情监测系统 曲线 LSTM模型
5
一种用于氨基酸配方粉的智慧生产控制方法及装置
历史温度数据 PID控制参数 氨基酸配方粉 氨基酸粉末 LSTM模型
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号