摘要
本发明提供了一种处理器集群的模型推理方法、装置、电子设备及存储介质,涉及计算机处理技术领域,通过获取推理任务相关的第一数据;获取多个目标处理器中的各目标处理器的相关信息;基于各目标处理器的空闲时段或目标时段,确定各目标处理器执行所述推理任务的相关处理的顺序;基于各目标处理器执行所述推理任务的相关处理的顺序,依次指示所述多个目标处理器分别加载目标推理模型的多个预设模块,以通过各目标处理器在其对应的空闲时段或目标时段基于其加载的预设模块进行数据处理,由此,能够在利用处理器集群中的目标处理器执行推理任务时,减少目标处理器对其他处理任务的执行的影响,进而提高用户体验。
技术关键词
处理器集群
计算机可执行指令
历史运行信息
推理方法
模块
数据
资源
电子设备
推理装置
可读存储介质
消息
存储器
系统为您推荐了相关专利信息
投影机器人
角度调节系统
距离传感器
机壳
投影装置
机器人行走路径
调度系统
交通控制算法
栅格地图
指派
智能电能表
时间段
趋势预测模型
数据存储模块
线路