基于神经网络的高速高精度模数转换器全域误差校准方法

本发明公开了一种基于神经网络的高速流水线模数转换器全域误差校准方法，首先，采用校准模拟信号VAin输入到待测ADC中，得到全域误差数据集Derr和全域校准数据集Dcal；然后，采用全域误差数据集Derr作为误差模型的输入数据，基于深度学习训练获取待测高速模数转换器的全域非线性误差模型F(X)；以全域校准数据集Dcal作为校准算法模型的输入数据，基于深度学习训练获取全域非线性误差校准算法模型F‑1(X)。最后，待测高速模数转换器的正常转换输出的全域校准数据集Dcal与全域非线性误差校准算法模型F‑1(X)相乘，得到校准过的高精度转换数据Dout_cal。本发明可以解决现有的数字校准方法中数字码Dout出现重大误差出现失码带来的误差难以纠错的难题，以达到更高的误差校准能力。