摘要
本申请公开了一种异构边端情境自适应协同计算方法、装置、介质和设备,方法包括基于预训练模型的计算图将预训练模型最大解耦,根据各异构边端设备的资源约束,对最大解耦的预训练模型进行混合粒度分割,得到各粒度分割后的预训练模型,基于贪心算法预训练模型进行优化,得到各最终分割模型;全局遍历各中间表示格式的最终分割模型的计算图,得到常量节点和冗余操作,移除常量节点并合并冗余操作,将优化后的各计算图转换为各异构边端设备的框架格式,本申请通过计算图实现模型的最大解耦,从而实现混合粒度分割,通过移除常量节点并合并冗余操作,以及在计算图转换过程中执行算子融合来优化模型结构,最实现了预训练模型在跨异构框架的高效部署。
技术关键词
协同计算方法
异构
预训练模型
子模块
贪心算法
格式
冗余
节点
框架
数据存储
电子设备
程序
资源
处理器
指令
可读存储介质
存储器
动态
内存