面向移动端深度学习推理的CPU-GPU协同执行方法及系统

本发明涉及移动终端数据处理技术领域，尤其涉及一种面向移动端深度学习推理任务的CPU‑GPU双核心协同执行方法及系统。所述方法在线下阶段，对目标深度学习模型进行结构分析，并结合硬件特性预测每个算子的执行时间和数据传输开销；在在线阶段，任务调度器和异构执行引擎两个关键模块通过创新的动态调度和资源管理技术，确保高效的CPU与GPU协同执行。通过将推理任务动态分配至CPU和GPU，灵活协同调度，充分发挥各处理器的计算优势，显著提升了整体利用率，避免了单一计算资源的空闲或瓶颈。面对移动端等资源受限场景，系统通过双缓冲结构、数据复用和并发执行策略，优化内存使用效率，提升任务执行的并发度和稳定性，实现高效推理性能。