设备模型部署方法及装置、端侧设备、计算机可读存储介质

本申请涉及计算机技术领域，公开一种设备模型部署方法，包括：根据端侧设备的硬件特性和/或应用场景，对待部署模型进行压缩处理，以获得轻量级目标模型；基于模型推理框架，动态分配轻量级目标模型的处理任务；其中，模型推理框架和轻量级目标模型部署于端侧设备。该方法在减少目标模型的复杂度和运行功耗的同时，最大限度保持模型的性能；从而保证端侧设备硬件资源的充分利用且有助于提升性能。本申请还公开一种设备模型部署装置、端侧设备及计算机可读存储介质。