推理任务处理方法、装置、电子设备及存储介质

本申请公开了一种推理任务处理方法、装置、电子设备及存储介质，涉及人工智能技术领域，包括基于待处理推理任务之间的依赖关系，确定待处理推理任务的处理顺序，进而确定当前待处理推理任务；基于当前待处理推理任务所需的数据的存储信息，确定待筛选硬件加速器；基于待筛选硬件加速器的性能指标信息，确定目标硬件加速器，以生成目标指令；将目标指令下发至目标硬件加速器，以使目标硬件加速器处理当前待处理推理任务。通过基于当前待处理推理任务所需的数据的存储信息和待筛选硬件加速器的性能指标信息，确定目标硬件加速器，解决了相关技术降低了硬件加速器的性能的技术问题，达到了提高硬件加速器的性能的技术效果。