摘要
本公开涉及人工智能领域,具体涉及公开了一种NPU计算任务的调度方法、装置、人工智能设备及介质,该方法包括:在任务容器未满时,任务管理模块将接收的NPU计算任务放入任务容器的座位;在任务容器不为空时,NPU管理模块基于至少一个NPU单元的处理能力和带宽,从任务容器取走相应数量的NPU计算任务,并分发给至少一个NPU单元进行处理;在相应数量的NPU计算任务被处理完成后,将NPU计算任务的处理结果放置在NPU计算任务绑定的座位;由NPU管理模块向任务管理模块发送取走通知,使其取走处理结果,并发送给任务发起方。该技术方案可以解决现有任务处理开销较高的问题,主要用于电力物联网中边缘设备的任务调度。
技术关键词
容器
座位
人工智能设备
通知
处理器
指令
入口
计算机
调度装置
任务调度
开关模块
可读存储介质
存储器
速率
电力
系统为您推荐了相关专利信息
大语言模型
活动推荐方法
计算机执行指令
画像
多轮对话
油式变压器
互感器
诊断方法
卷积神经网络模型
模型预训练