一种用于时间序列预测自回归模型的并行加速推理方法、设备及介质

本发明公开一种用于时间序列预测自回归模型的并行加速推理方法、设备及介质，涉及客流时序预测技术领域。所述方法包括：获取历史时序数据；基于所述历史时序数据，利用主逻辑线程和并行推理加速线程分别推理，得到主逻辑线程细粒度结果和并行推理加速线程细粒度结果；所述并行推理加速线程包括草稿模型推理和多线程队列流水线并行推理；将所述主逻辑线程细粒度结果和所述并行推理加速线程细粒度结果进行拼接融合，得到最终结果输出；关闭所述推理及逻辑操作线程，释放对应显存及内容空间。本发明能够通过草稿模型、并行推理流水线、容差检查及结果融合操作，在不明显影响精度的前提下，实现长序列时序推理过程的加速。