推理任务处理方法、装置、电子设备及存储介质

本公开提供了一种推理任务处理方法、装置、电子设备及存储介质，涉及人工智能技术领域。该方法应用于边缘设备，包括：接收推理任务；确定多个备选模型中各个备选模型完成推理任务的代价值，每一备选模型的状态包括已在边缘设备创建、待在边缘设备创建和待在中心云创建中的一个；将最小代价值对应的备选模型确定为目标模型；根据目标模型的状态，对推理任务进行处理。此种方式相较于选择默认的模型处理推理任务，具有更高的灵活性，也更加适配资源有限的边缘设备。