一种基于客户端的AI模型动态优化以及自适应推理方法

本申请公开了一种基于客户端的AI模型动态优化以及自适应推理方法，涉及模型优化技术领域，通过对用户端设备的硬件资源和运行环境进行分析，进而选择合适的AI模型部署至用户端设备，再对用户端设备的运行状态信息进行实时监测，从而对AI模型进行动态优化调整以达到高效推理的目的，同时根据用户端设备的硬件资源信息、各推理路径的资源占用量和推理准确率，分析得到一种自适应算法，根据该自适应算法，可实现用户端设备实时调整最优推理路径，进而保证在有限的资源条件下实现最佳的推理性能和效率，最后将各已处理任务及其对应的AI模型和最优推理路径存储至云端以便于后续直接调用。