多模型协同推理方法、装置、设备及存储介质

AITNT
正文
推荐专利
多模型协同推理方法、装置、设备及存储介质
申请号:CN202411748375
申请日期:2024-11-29
公开号:CN119578552A
公开日期:2025-03-07
类型:发明专利
摘要
本公开提供了一种多模型协同推理方法、装置、设备及存储介质,涉及计算机技术领域。该方法包括:基于第一模型处理数据得到第一标记,基于第一标记与预设标记的关联数据生成第一中间标记,基于第一中间标记以及预设标记的关联数据生成第二中间标记,基于第二模型对第一中间标记以及第二中间标记进行校验,在校验未通过的情况下,基于第二模型处理第一标记、第一中间标记以及第二中间标记中的至少一个,得到多模型协同处理结果,通过多模型协同处理提高了模型推理的效率。
技术关键词
多模型协同 标记 推理方法 时延 负载均衡数据 推理装置 贪心算法 处理器 校验模块 可读存储介质 决策 变量 电子设备 指令 总量 存储器 计算机
系统为您推荐了相关专利信息
1
低功耗轨迹上报方法及装置
定位终端 历史运动数据 坐标 轨迹 路段
2
用户隐私保护驱动的计算卸载方法及系统
服务器 卸载方法 三元组 逻辑 蝙蝠算法
3
一种微观码图像的检测方法、装置、系统和介质
图像拍摄装置 阈值分割方法 图像获取模块 防伪标记 拟合算法
4
一种自监督学习的驾驶员分心行为检测方法
驾驶员分心 图像块 编码器模块 多层感知器 注意力
5
一种基于深度学习的纹样生产方法及系统
风格 可变形卷积层 节点 数据 标签
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号