摘要
本公开提供了一种多模型协同推理方法、装置、设备及存储介质,涉及计算机技术领域。该方法包括:基于第一模型处理数据得到第一标记,基于第一标记与预设标记的关联数据生成第一中间标记,基于第一中间标记以及预设标记的关联数据生成第二中间标记,基于第二模型对第一中间标记以及第二中间标记进行校验,在校验未通过的情况下,基于第二模型处理第一标记、第一中间标记以及第二中间标记中的至少一个,得到多模型协同处理结果,通过多模型协同处理提高了模型推理的效率。
技术关键词
多模型协同
标记
推理方法
时延
负载均衡数据
推理装置
贪心算法
处理器
校验模块
可读存储介质
决策
变量
电子设备
指令
总量
存储器
计算机
系统为您推荐了相关专利信息
图像拍摄装置
阈值分割方法
图像获取模块
防伪标记
拟合算法
驾驶员分心
图像块
编码器模块
多层感知器
注意力