流水线分布式模型组配方法及系统

本发明公开了流水线分布式模型组配方法及系统，属于人工智能技术领域，要解决的技术问题为如何快速组合多种模型实现不同融合场景。包括如下步骤：定义数据源处理模块、推理模块、追踪模块、合并模块以及编码模块之间的连接关系以及处理逻辑并构建有向无环图，通过连接管理模块对推理模块与推理服务的网络连接进行管理配置；推理模块和与其对应的推理服务配合、通过AI模型对当前输入进行推理，得到推理结果，通过追踪模块追踪推理结果并将推理结果同步至合并模块；通过合并模块对推理结果进行合并；通过编码模块对合并后推理结果进行编码；通过显示模块对原始图像以及对应的最终推理结果进行展示。