一种异构边端情境自适应协同计算方法

AITNT
正文
推荐专利
一种异构边端情境自适应协同计算方法
申请号:CN202510560527
申请日期:2025-04-30
公开号:CN120492154A
公开日期:2025-08-15
类型:发明专利
摘要
本申请公开了一种异构边端情境自适应协同计算方法、装置、介质和设备,方法包括基于预训练模型的计算图将预训练模型最大解耦,根据各异构边端设备的资源约束,对最大解耦的预训练模型进行混合粒度分割,得到各粒度分割后的预训练模型,基于贪心算法预训练模型进行优化,得到各最终分割模型;全局遍历各中间表示格式的最终分割模型的计算图,得到常量节点和冗余操作,移除常量节点并合并冗余操作,将优化后的各计算图转换为各异构边端设备的框架格式,本申请通过计算图实现模型的最大解耦,从而实现混合粒度分割,通过移除常量节点并合并冗余操作,以及在计算图转换过程中执行算子融合来优化模型结构,最实现了预训练模型在跨异构框架的高效部署。
技术关键词
协同计算方法 异构 预训练模型 子模块 贪心算法 格式 冗余 节点 框架 数据存储 电子设备 程序 资源 处理器 指令 可读存储介质 存储器 动态 内存
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号