摘要
本发明公开了一种数据校准装置及方法,所述装置包括:输入数据存储器,用于输入并存储待校准的数据;神经网络数据校准处理器,用于对待校准的数据进行流水线分层处理并在完成所有数据的校准之后输出校准完成信号;全局控制器,用于当检测到输入数据存储器中有待校准数据时控制数据输入到已训练好的神经网络校准处理器中并控制神经网络数据校准处理器工作,还用于响应校准完成信号,控制神经网络数据校准处理器停止工作;输出数据存储器,用于存储神经网络数据校准处理器校准后的输出数据。本发明通过神经网络数据校准处理器采用流水线技术,低精度量化参数,在保证校准精度的同时降低模型的计算复杂度,突破传统单频点校准的硬件资源瓶颈。
技术关键词
处理单元
数据存储器
数据校准方法
校准处理器
误差模型
计数器
性能指标偏差
数值
阵列
控制器
流水线技术
信号
权重模型
分层
系统为您推荐了相关专利信息
读写设备
出瞳位置
人脸位置
监测方法
数据处理器
高速数据传输控制
智能管理模块
信号处理模块
电源管理模块
多协议
GCN模型
图像检测方法
激光
数据处理单元
识别缺陷