摘要
本申请公开一种基于存算一体结构的数据校准方法、装置、介质及设备,方法包括:获取目标向量与每个底库向量之间的实际乘累加数字量化结果和理想乘累加数字量化结果,基于存算一体结构中的理想ADC采样量化后输出的结果;根据预设门限值范围和实际乘累加数字量化结果,生成第一曲线,根据预设门限值范围和理想乘累加数字量化结果,生成第二曲线,预设门限值范围包括多个离散的门限值;在确定第一曲线和第二曲线之间的纵坐标差异不满足预设差异条件的情况下,调整芯片补偿寄存器的补偿值,直至第一曲线和第二曲线之间的纵坐标差异满足预设差异条件时,将此时的芯片补偿寄存器的补偿值作为校准后的补偿值。
技术关键词
补偿值
曲线
数据校准方法
芯片
处理单元
仿真环境
存储单元
电子设备
可读存储介质
程序
模块
计算机