一种部署在终端设备系统中的深度学习模型运行方法

本发明提供一种部署在终端设备系统中的深度学习模型运行方法，该方法包括：S1、对深度学习模型使用类别自适应剪枝方法，以便精确地减小深度学习模型的大小；S2、对深度学习模型使用基于任务聚类的自动模型并行方法，以便优化深度学习模型的并行执行策略；S3、对深度学习模型使用异构多核片的系统多级流水线并行优化方法，以便提高深度学习模型在异构多核片系统上的推理性能和效率。通过本发明的方法，协同处理模型压缩、并行计算和硬件调度的运行，显著提高了部署深度学习模型的智能终端设备在真实场景中的实用性。