AI推理任务的动态分配方法及装置

本公开的实施例提供一种AI推理任务的动态分配方法及装置，该方法包括：实时监控云边协同系统中各个计算节点的工作负载、内存可用性、网络延迟、带宽和能源消耗，计算节点包括本地边缘设备、边缘服务器和云端平台；根据任务的延迟要求、计算需求和数据隐私要求以及各个计算节点的实时状态，将任务动态分配到不同的计算节点；根据计算节点的资源使用情况，调整用于执行所述任务的AI模型的复杂度；以及，根据任务执行过程中的历史性能数据和实时网络条件，优化任务分配策略。