处理器集群的模型推理方法、装置、电子设备及存储介质

AITNT
正文
推荐专利
处理器集群的模型推理方法、装置、电子设备及存储介质
申请号:CN202411953296
申请日期:2024-12-27
公开号:CN120085975A
公开日期:2025-06-03
类型:发明专利
摘要
本发明提供了一种处理器集群的模型推理方法、装置、电子设备及存储介质,涉及计算机处理技术领域,通过获取推理任务相关的第一数据;获取多个目标处理器中的各目标处理器的相关信息;基于各目标处理器的空闲时段或目标时段,确定各目标处理器执行所述推理任务的相关处理的顺序;基于各目标处理器执行所述推理任务的相关处理的顺序,依次指示所述多个目标处理器分别加载目标推理模型的多个预设模块,以通过各目标处理器在其对应的空闲时段或目标时段基于其加载的预设模块进行数据处理,由此,能够在利用处理器集群中的目标处理器执行推理任务时,减少目标处理器对其他处理任务的执行的影响,进而提高用户体验。
技术关键词
处理器集群 计算机可执行指令 历史运行信息 推理方法 模块 数据 资源 电子设备 推理装置 可读存储介质 消息 存储器
系统为您推荐了相关专利信息
1
一种投影机器人投影画面调节系统
投影机器人 角度调节系统 距离传感器 机壳 投影装置
2
一种多目标协同优化的智能多机器人搬运调度系统与方法
机器人行走路径 调度系统 交通控制算法 栅格地图 指派
3
虚拟场景中的交互方法、装置、设备、存储介质及程序产品
虚拟屏幕 答案 场景 模式 交互方法
4
一种具有自动分析负荷特性的交流智能电能表
智能电能表 时间段 趋势预测模型 数据存储模块 线路
5
一种基于数据分析的信息查询智能推荐系统及方法
电商 智能推荐系统 智能推荐方法 风格 平台
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号