一种基于Transformer和CNN混合结构的流水线ADC神经网络校准方法

本发明公开了一种基于Transformer和CNN混合结构的流水线ADC神经网络校准算法。本发明利用混合神经网络结构学习流水线ADC中的多种非线性误差，包括级间增益误差、DAC误差、记忆效应等，从而实现校准功能。本发明将一定长度的ADC序列输入至神经网络结构进行校准计算，输出序列对应的误差补偿值，该输出与原序列相加的结果为最终的ADC校准输出数据；通过对校准结果进行快速傅里叶变换得到测试频谱图以评估和比较网络校准性能，并根据结果修调网络结构及网络尺寸、学习率、损失函数等超参数，确定最优网络结构。本发明结合了Transformer、CNN两种网络结构，在校准流水线ADC的多种非线性误差方面性能优势明显，能够显著提升ADC的整体性能。