一种细粒度层融合调度优化方法及相关装置

AITNT
正文
推荐专利
一种细粒度层融合调度优化方法及相关装置
申请号:CN202510102891
申请日期:2025-01-22
公开号:CN120011070A
公开日期:2025-05-16
类型:发明专利
摘要
本申请属于一种存储和计算的优化方法,针对目前缺少针对层融合优化空间进行完整搜索的层融合调度框架的技术问题,提供一种细粒度层融合调度优化方法及相关装置,通过计算顺序、细粒度层融合组、块和表征DRAM切割点的层融合组组成细粒度层融合调度空间,基于前述四个维度,通过搜索的方式对待计算神经网络模型进行计。在计算顺序、细粒度层融合组、块和层融合组组成的细粒度层融合调度空间中,存在大量的可能配置和组合的方式,可以配合采用适当的搜索算法在搜索空间中寻找最优配置,通过优化计算顺序、数据流动和内存访问等方式提高了计算资源利用率、整体性能和能效。
技术关键词
调度优化方法 神经网络模型 模拟退火算法 切割模块 计算机程序代码 调度优化系统 搜索模块 输出特征 序列 分块 可读存储介质 处理器 交互方法 搜索算法 电子设备 存储器 能效 指令 内存
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号