边端架构下人工智能模型推理任务的协同计算策略

一种边端架构下人工智能模型推理任务的协同计算策略，解决终端设备计算能力有限的问题，通过与边缘侧服务器进行协同计算提高效率。首先确定边端架构，然后根据边端架构建立系统模型、通信模型和计算模型建立联合优化模型。根据联合优化模型，结合深度强化学习算法的优点，采用多智能体深度确定性策略梯度MADDPG算法求解最优的推理任务划分策略，采用DQN算法求解最优的任务调度策略。MADDPG算法运行在边缘设备侧，负责寻找推理任务的最佳划分点，DQN算法运行在边缘服务器侧，负责统筹服务器集群状态与推理任务的协同调度。通过将两种强化学习算法在任务划分与任务调度两部分分别应用，在保证任务及时得到完成的同时，减少了整体开销。