一种面向车载边缘智能的基于DNN模型划分与推理加速方法及系统

本发明提供一种面向车载边缘智能的基于DNN模型划分与推理加速方法及系统，该方法包括以下步骤：基于车载的DNN模型构建DAG图；构建DAG图的辅助网络流图：增加表示在车辆本地计算的头节点和表示在边缘服务器或辅助车辆计算的尾节点，将边的权重设置为分割该条边的时延开销；获取DAG图的辅助网络流图的不同分层方式及其对应的满足车辆本地的时延、内存和能耗限制的最大容忍点集；分别基于每个最大容忍点集，对应修改DAG图的辅助网络流图中边的权重，并计算每个修改后的网络流辅助图的最大流；选择最大流最大对应的划分方式作为DNN模型划分方式。本发明通过DNN模型划分方式实现车路云协同推理，以减少DNN任务协同推理完成时延，提升车辆的安全性和用户体验。