一种面向移动多处理器的深度学习模型协同推理方法

本发明属于移动计算和深度学习技术领域，具体涉及一种面向移动多处理器的深度学习模型协同推理方法。本发明通过实时监控各处理器的状态，结合模型解析器对深度学习模型进行子图划分，使用中央调度器根据处理器负载、温度和运行状态动态优化执行策略。系统包括硬件监视器、模型解析器和调度器三大核心组件，通过这些组件的协作，可以高效地管理和执行多个深度学习模型的推断任务，显著提升了移动设备上的执行效率和能源效率。本发明能够适应各种硬件异构性，特别适用于资源受限的移动和边缘设备，解决了传统移动推理系统在面对多任务协同推理时的性能瓶颈问题。本发明具有调度灵活、响应快速的特点，适用于多种实时应用场景。