一种基于自编码器和智能体的云边协同推理方法

本发明公开了一种基于自编码器和智能体的云边协同推理方法，旨在解决资源受限设备在执行深度学习推理时面临的计算瓶颈和高延迟问题，本发明提出的技术方案包括以下步骤：首先，将复杂深度神经网络模型根据计算复杂度与设备性能拆分为边云协同执行的多个部分；然后，通过轻量自编码器压缩中间层数据，减少数据传输量；最后，使用智能体生成的多任务推理策略，实时根据设备负载、网络带宽及实时任务需求，选择合适的推理策略，该方法通过拆分深度神经网络模型、轻量自编码器进行中间数据压缩、以及通过训练智能体生成的策略实现多设备协同推理，显著提高推理效率，降低推理时间，并且在保证推理精度的前提下优化系统资源利用率。