一种云边协同深度学习任务执行性能预测及调度的方法与系统

本发明涉及一种云边协同深度学习任务执行性能预测及调度的方法与系统。本发明采用基于块特征的性能预测方法，通过分析深度学习模型的块特征向量，实现对未知模型的并发推理性能精确预测，有效解决了新模型执行性能预测准确率低的问题；提出基于轮次的双阶段贪婪调度策略，在保障系统吞吐量的同时显著降低违约率；设计了二分搜索优化的模型切分方案，进一步提升任务执行效率。