一种基于内存算力感知的模型剪枝方法、设备及介质

本发明涉及人工智能技术领域，具体公开了一种基于内存算力感知的模型剪枝方法、设备及介质，通过在确定包括目标设备的硬件资源参数和多个人工智能模型推理任务的硬件配置参数及模型精度需求参数后，以在目标设备部署的人工智能模型推理任务所需的硬件资源不超出目标设备的硬件资源参数为第一约束条件，以各人工智能模型推理任务的模型精度满足对应的模型精度需求参数为第二约束条件，对需部署在目标设备的人工智能模型推理任务所采用的人工智能模型进行多模型的模型剪枝处理，实现了基于设备硬件资源的多任务模型剪枝处理，进而实现在保证任务需求的条件下将多人工智能任务的部署在有限的硬件资源上，节省设备的算力资源和内存资源。