一种协同边缘计算系统中深度神经网络分布式推理模型部署方法及其系统

本申请公开了一种协同边缘计算系统中深度神经网络分布式推理模型部署方法及其系统，其中协同边缘计算系统中深度神经网络分布式推理模型部署方法包括以下步骤：确定DNN模型，将DNN模型分解为多条独立的分支；根据分解后的多条独立的分支，确定每个分支中的最优部署策略；根据每个分支中的最优部署策略，确定全局部署策略。本申请面向边边协同下的MEC分布式推理系统的特点，综合考虑模型分割点的选择和模型的部署策略，提出了适用于不同结构DNN模型和不同网络规模的边缘集群的模型部署方法，有效提高系统的整体性能和兼容性。