一种用于终端计算资源的评估与调度方法及装置

本发明提供一种用于终端计算资源的评估与调度方法及装置，包括：对终端设备上所有计算芯片进行统计，获取终端设备上所有计算芯片的各项参数；结合所述参数进行分析以及排序，得到排序队列，将终端设备的CPU设置在所述排序队列的最后；构建计算图，将所述终端设备加载的处理AI推理任务的模型用有向无环图的数据结构表示为计算图；遍历计算图，根据所述排序队列，依次给每个节点分配芯片。本发明能够在保证终端上AI推理任务顺利进行的前提下，使得整个推理过程更加快速，资源分配更加合理。