一种用于在边缘设备上减少人工智能模型响应延迟的任务调度方法

本发明为一种用于在边缘设备上减少人工智能模型响应延迟的任务调度方法，所述方法包括如下步骤：1）对数据进行收集与整理；2）构建和训练预测模型；3）对预测模型进行运行调度；4）决策执行。本发明是一种用于对服务器无感知边缘计算范式中的模型请求进行调度，实现减少模型响应延迟的方法，本发明适用于边缘设备，能够有效减少人工智能模型响应延迟，以充分发挥边缘计算在人工智能领域的潜力，满足日益增长的对低延迟、高效能人工智能服务的需求。