摘要
本发明公开了一种面向异构云边端协同系统的模型剪枝方法,属于机器学习的模型剪枝技术领域。解决了现有技术中传统的基于深度学习模型的剪枝方法资源利用率较低的问题;本发明包括以下步骤:S1.对待调用模型进行初始化,解析待调用模型的结构形成结构集合,并分发到计算节点,生成开销预测器;S2.根据剪枝形状控制策略,调用开销预测器,使用剪枝评价函数,得到使用剪枝评价函数;S3.在不同分割点的剪枝后的模型集合中,根据时间开销评估函数和网络情况,筛选得到最优部署模型。本发明有效提升了剪枝后的模型在不同硬件上的运行效率,且能够控制推理效率和资源使用率,通过动态权重调整满足不同任务需求,可以应用于剪枝模型。
技术关键词
模型剪枝方法
剪枝模型
协同系统
异构
资源约束条件
时间预测模型
控制策略
内存
深度学习模型
节点
生成记录
通信带宽
网络
云端
标签
动态
精度