一种深度学习模型计算图拆分方法及编译系统

本发明提供一种深度学习模型计算图拆分方法及编译系统，涉及计算机科学技术领域。该方法首先通过获取深度学习模型计算图，采用遗传算法设计性能评估器，获得深度学习模型计算图各个分支在不同核上的推理性能，自适应的将深度学习模型计算图各个分支映射到最佳核，并划分为子图。然后通过编译系统，将子图编译成序列化文件，实现了多分支在多核上的部署。该发明提出的深度学习模型计算图划分方法及编译系统充分评估了子图在多核加速器上的实际推理能力并能支持多样的深度模型架构，从而显著提高推理性能，使得边缘智能应用获得更快的响应速度和更高的处理效率，解决了可扩展性差的问题。